Facebook ha annunciato di aver chiuso pagine, gruppi e account individuali collegati a Epoch Media Group, un’organizzazione USA con ramificazioni estere, per attività di interferenza straniera. O in altre parole, le classiche attività di disinformazione orchestrate da ignoti attori stranieri (governi, organizzazioni) al fine di influenzare l’elettorato USA.
Due organizzazioni che si occupano dello studio delle campagne di disinformazione, Atlantic Council’s Digital Forensic Research Lab (DFRLab) e Graphika hanno rilasciato un report (pdf) che analizza l’operazione di takedown di Facebook.
Quello che colpisce in questo caso è che per la creazione degli account finti sono stati utilizzati volti generati da reti neurali avversarie, ovvero immagini di persone che non esistono. In passato chi creava profili fake si serviva di foto trovate in rete, ma che proprio per questo motivo era possibile rintracciare e collegare ad altre persone.
Invece i volti generati dall’AI sono univoci, e per capire che non sono reali è necessaria un’analisi più attenta. Quella che gli autori del report hanno chiesto a dei ricercatori italiani, provenienti dall’Università Federico II di Napoli, che hanno confermato la natura artificiale delle foto usate per i profili Facebook chiusi d’ufficio (per approfondire le tecnologie usate, qui è disponibile lo studio dei ricercatori italiani).
Il capo per la security policy di Facebook, Nathaniel Gleicher, in una dichiarazione resa al New York Times ha affermato che questa è la prima volta che si osserva l’uso sistematico di volti fake per rendere i profili più realistici, aggiungendo però che ciò non ha reso più complicato il lavoro del suo team, poiché il sistema si basa soprattutto sull’analisi dei pattern comportamentali fra gli account presi in esame.
