Il nuovo algoritmo che combatte la propaganda online del Califfato

La diffusione della propaganda ISIS tramite i social ha costretto i governi a chiedere ai dirigenti di Facebook, Twitter e Google di intervenire in maniera piuttosto drastica. Le società del settore sono sempre state poco aperte a filtri o censure, ma il clima di terrore che aleggia in gran parte dell'Occidente ha convinto gli amministratori a imporre regole piuttosto rigide, nella speranza di indebolire l'influenza degli estremisti. Lo scorso mese Twitter ha annunciato di aver sospeso, dalla metà del 2015, 360mila account che promuovevano il terrorismo, 235mila dei quali dallo scorso febbraio. L'attività di vigilanza sta lentamente diventando più efficiente e l'obiettivo finale è quello di implementare un sistema completamente automatizzato, che permetta di bloccare ogni contenuto potenzialmente pericoloso.

L'algoritmo perfetto. L'ultima novità in questo campo è un algoritmo che è stato annunciato lo scorso giugno da un'organizzazione no profit chiamata Counter Extremism Project (CEP) che si occupa di individuare i gruppi estremisti. Il nome dell'algoritmo è eGLYPH e utilizza una tecnologia che è in grado di assegnare una sorta di impronta digitale unica a un determinato contenuto, come un'immagine o un video, segnalarlo come estremista e automaticamente rimuovere ogni sua versione presente nell'intero social network. Il CEO della società è Mark Wallace, ex ambasciatore alle Nazioni Unite sotto il governo Bush, e ha descritto eGLYPH come un'arma definitiva, che, se adottata in maniera adeguata, potrà aiutare a fermare la diffusione della propaganda terroristica e dissuadere gruppi radicali dal pubblicare altro materiale. «Se un gruppo estremista - ha spiegato Wallace a The Verge - sa che, dal momento in cui qualcuno prova a pubblicare un video online, questo verrà subito rimosso e non sarà mai diffuso in maniera efficace, probabilmente smetterà di usare questa tecnica in quanto non più efficace ai suoi scopi».

Gli scarsi risultati fino ad ora. I governi di tutta Europa hanno incaricato le migliori compagnie informatiche per affinare le proprie tecniche di intercettazione e fermare la propaganda ISIS. I risultati però non sembrano essere soddisfacenti. In Gran Bretagna, ad esempio, un gruppo di parlamentari ha presentato una relazione nella quale si affermava che Facebook, Twitter e gli altri giganti informatici stanno «coscientemente fallendo» nel combattere l'ISIS online. Secondo Michael Steinbach, direttore della sicurezza nazionale all'FBI, «nessun gruppo è stato così efficace a coinvolgere le persone nel proprio messaggio».

Un altro problema riguarda i gruppi di estrema destra che soprattutto in Europa stanno diventando sempre più popolari, con la loro propaganda aggressiva e la promozione di valori che poco hanno a che fare con la democrazia. La Germania ha per questo motivo fatto pressioni a Facebook e altre compagnie per implementare un sistema rapido ed efficace che rimuova i contenuti xenofobi e tutto il materiale che prenda di mira i rifugiati. Anche negli Stati Uniti però i gruppi neo-nazisti stanno continuando la loro crescita su Twitter, secondo quanto riportato da uno studio del Programma sull'estremismo dell'Università George Washington.

I problemi dell'automazione. L'automazione di questi processi ha sicuramente ottimi risultati in larga scala ma difficilmente si arriverà mai ad avere l'algoritmo perfetto, perché ci saranno sempre dei falsi positivi. Mark Zuckerberg ha ricevuto numerose critiche proprio a causa di alcuni processi di Facebook che hanno censurato opere d'arte famose, come L'origine del mondo di Courbet o fotografie storiche, come quella della bambina vietnamita in fuga di Nick Ut, vincitrice di un premio Pulitzer. Si è rischiato addirittura lo scontro diplomatico tra Palo Alto e la Norvegia, perché a pubblicare e vedersi rimossa la celebre fotografia sono stati prima un famoso scrittore norvegese e poi addirittura il primo ministro. Facebook ha dovuto fare ammenda, reintegrando le fotografia e definendola un importante documento storico, ma intanto in più persone si sono chieste come il più grande mezzo di comunicazione del mondo non sappia distinguere tra un'immagine storica e una pedopornografica.

Sorte simile ha subito in queste ore la pagina degli attivisti di Black Lives Matter, bloccata dal social network per qualche ora per aver pubblicato un'email razzista ricevuta dallo scrittore Shaun King del New York Daily News. Non è la prima volta che pagine più o meno grandi vengono punite per aver pubblicato in forma di denuncia testi o immagini a sfondo razzista od omofobo. Anche in questo caso Facebook ha presto rimediato, facendo le proprie scuse, ma un movimento costruito negli anni e che conta quasi un milione di partecipanti poteva dissolversi a causa di un errore di valutazione.