Rassegna stampa
Facebook, o come dovremmo abituarci a chiamarlo, Meta, è ancora una volta sotto accusa. Il gigante dei social network è al centro del mirino per aver prediletto la crescita dei propri profitti a discapito della sicurezza degli utenti.
Nei cosiddetti Facebook Papers appare una visione inedita del social network. Visione che in molti già immaginavano ma di cui solo ora si hanno le prove. Tra le informazioni contenute nelle oltre 10 000 pagine dei documenti consegnati al Congresso degli Stati Uniti, l’ex dipendente Frances Haugen mostra come gli sforzi di moderazione e censura siano insufficienti e inadeguati. Specialmente per alcune lingue parlate in aree particolarmente vulnerabili.
Si parla, ad esempio, di dari e pashtu in Afghanistan e hindi e bengali in India.
Intelligenza artificiale e umana
I report, pubblicati a partire dal 2018, sottolineano come la moderazione dei contenuti discriminatori, basata sull’intelligenza artificiale (AI) per le lingue non inglesi, non sia in grado di rilevare contenuti minacciosi o violenti. Queste nuove rivelazioni mostrano come anche la moderazione umana sia venuta meno.
Facebook afferma di utilizzare algoritmi per moderare i contenuti in 40 lingue e di poter contare su moderatori umani per circa 70 lingue. Tuttavia, questi numeri si avvicinano solamente al totale di 100 sistemi linguistici supportati dal social network.
Il gap potrebbe essere spiegato dalla carenza di parlanti per le lingue escluse dai controlli e la conseguente difficoltà di reperimento di risorse, umane e testuali, sulle quali addestrare i modelli di AI.
MultiLingual ha però evidenziato come la mancanza di moderazione per queste lingue non corrispondesse a un numero esiguo di parlanti. Né a uno scarso utilizzo di Facebook nelle relative regioni. Il social network conta circa cinque milioni di utenti mensili in Afghanistan e 400 milioni di persone presenti in tutte le piattaforme Facebook in India.
Sempre in Afghanistan, due delle lingue (le due ufficiali del paese) per le quali è stato rilevato questo problema, il dari e il pashtu, contano un totale di 160 milioni di parlanti. Un numero sicuramente sufficiente per elaborare modelli di censura adeguati.
La censura di Facebook in Afghanistan e in India
Come indicato nel report di Politico, queste lacune comportano non solo una mancata moderazione di contenuti violenti o discriminatori; meno dell’1% dei post di incitamento all’odio è stato rimosso in Afghanistan, ma anche numerosi falsi positivi. Nel report si può leggere come circa il 77% dei contenuti non violenti, veicolati in arabo, sia stato censurato, specialmente se inerenti al conflitto israelo-palestinese.
Questi problemi sono in contrasto con le affermazioni fatte da Facebook nel 2021 alla BBC. Le dichiarazioni sostenevano che la società potesse contare su “un team dedicato di esperti afgani, madrelingua dari e pashtu con una profonda conoscenza del contesto locale, capaci di identificare i problemi emergenti sulla piattaforma.”
Per quanto riguarda l’India, invece, Facebook ha affermato di aver implementato i moderatori anti hate speech grazie a dataset linguistici per le lingue hindi e bengali, rispettivamente nel 2018 e nel 2020.
Queste lingue del subcontinente indiano, oggetto di preoccupazione per la presenza di incitamento all’odio nei confronti dei mussulmani, non mancano certo di dati o risorse. I numeri parlano chiaro, l’hindi è parlato da circa 615 milioni di persone e il bengali da 265 milioni.
Man mano che emergono nuove informazioni diventa chiaro che né le dimensioni del mercato né le realtà geopolitiche abbiano influenzato le decisioni interne di Facebook su quali contenuti valutare, studiare, monitorare e moderare.
Speriamo quindi che assieme alla denominazione sociale, Facebook, decida di cambiare anche le proprie linee guida, rendendo il social per eccellenza più sano e inclusivo.
Parafrasando il paradosso della tolleranza di Karl Popper:
per far sì che una società sia realmente tollerante, questa si deve mostrare intollerante nei confronti di chi, con la propria intolleranza, limita la libertà altrui.
Stefano Gaffuri
Fonti: Multilingual, ANSA, Politico.
