cerca

I segreti di Internet

Du iù spik inglish?

Quando l'intelligenza artificiale non conosce bene le lingue

Totò

Diciamocela tutta, Facebook potrà pure impegnarsi al massimo per porre un argine ai post violenti, omofobi, razzisti etc, ma se il suo super cervellone algoritmico non conosce perfettamente tutte le lingue della Terra, allora l'impresa in questione diventa particolarmente ardua.

Il re dei social media sembra stia avendo infatti notevoli difficoltà nella moderazione dei contenuti postati dai suoi utenti più facinorosi. Non tutti ovviamente, ma solo quelli di alcuni Paesi e questo perché i suoi sistemi di intelligenza artificiale (come si abbrevia oggi “Ai”) non sono sufficientemente poliglotti da riconoscere alcune lingue e, allo stesso tempo, la società di Menlo Park non ha ingaggiato moderatori umani con queste specifiche competenze. La situazione, come ha evidenziato un'inchiesta del Wall Street Journal, è abbastanza preoccupante, soprattutto a voler considerare che Facebook è in espansione in molti di questi mercati (quelli di cui non conosce le lingue per intenderci). Nel momento in cui oltre il 90% degli utenti mensili di Facebook si trova oggi al di fuori degli Stati Uniti, è abbastanza paradossale che nessuno ai piani alti si sia ancora posto il “problema della lingua”. In quelle zone del mondo dove Facebook non comprende l'idioma (definite non a caso “punti ciechi”) gli utenti del social non solo sono soliti abbandonarsi al linguaggio più triviale e violento possibile ma, senza tema di censura (dal momento che il sistema non capisce quello che scrivono), hanno anche avviato ogni genere di commercio illegale, direttamente a mezzo della piattaforma.

Tanto per capire ciò di cui stiamo parlando, Facebook, come racconta il quotidiano, è utilizzato anche per vendere droga da parte dei cartelli messicani, con post in slang spagnolo. Il social network, preso atto del problema, ha reagito con indefesso pragmatismo, facendo comunicare a uno dei suoi vicepresidenti che Facebook considera il potenziale danno in Paesi stranieri come “il semplice costo del fare affari” in quei mercati. Nella maggior parte dei casi, la piattaforma ha rimosso i post solo quando questi hanno attirato l’attenzione e lo sdegno del pubblico, senza comunque allo stesso tempo attivarsi per adeguare i sistemi automatizzati che permettono (o negano) la pubblicazione dei contenuti in prima battuta. Il problema è molto noto poiché la circostanza che Facebook, così come anche Instagram e altri social, siano utilizzati bellamente da trafficanti e criminali di ogni risma non si scopre certo oggi. L’organizzazione americana “Alliance to counter crime online” (Acco) denuncia il problema da tempo con report e indagini dettagliati, e non è la prima volta che sottolinea la criticità di Facebook con le lingue. “I nostri ricercatori hanno trovato post in lingua araba che vendono antichità saccheggiate e post in lingua vietnamita che propongono animali selvatici - ha scritto Acco sul suo account Twitter – Fino a quando Facebook non investirà nell’assunzione di moderatori di contenuti che parlino lingue diverse dall’inglese, continueremo a vedere un gran numero di crimini”.

Anche dal rapporto del WSJ emerge che sarebbe fondamentale per Facebook avere moderatori (umani) che parlino le lingue locali. La piattaforma era già stata accusata nel 2018 di avere tardato ad agire quando in Myanmar era esplosa sui social la violenza contro i Rohingya così come, quest’anno, ha avuto grosse difficoltà a moderare i post di incitamento all’odio contro la popolazione del Tigray in Etiopia. Affidare la gestione del dibattito in Rete a sistemi di intelligenza artificiale o, peggio ancora, a personale non preparato, è molto rischioso come suggerisce un altro esempio recente. Come riporta il sito Wired.it in un articolo a firma di Tommaso Meo, durante gli scontri tra israeliani e palestinesi dei mesi scorsi Facebook ha bloccato sulla sua piattaforma il riferimento alla moschea di Al-Aqsa a Gerusalemme, terzo luogo santo per i palestinesi, a causa dell'omonimia con un’organizzazione palestinese, le Brigate dei martiri di Al-Aqsa, che è stata etichettata come terroristica dagli Stati Uniti e dall’Unione europea. Dopo le notizie che hanno evidenziato diversi fallimenti e scorciatoie nella moderazione dei contenuti, Facebook ha promesso più impegno e più trasparenza e ha assicurato di voler fare la propria parte combattendo in modo specifico la disinformazione (a partire dal tema “caldo” del cambiamento climatico). La società ha annunciato che investirà un milione di dollari con questo intento, tuttavia l'importo esiguo della somma stanziata non ci fa ben sperare per una repentina e draconiana risoluzione del problema. 

Commenti

Condividi le tue opinioni su La Sesia

Caratteri rimanenti: 1500