Facebook chiude centinaia di pagine, gruppi e account con volti generati dall’AI

Error level analysis per uno dei profili fake. Dal rapporto di Graphika e DFRLab
Error level analysis per uno dei profili fake. Dal rapporto di Graphika e DFRLab

Facebook ha annunciato di aver chiuso pagine, gruppi e account individuali collegati a Epoch Media Group, un’organizzazione USA con ramificazioni estere, per attività di interferenza straniera. O in altre parole, le classiche attività di disinformazione orchestrate da ignoti attori stranieri (governi, organizzazioni) al fine di influenzare l’elettorato USA.

Due organizzazioni che si occupano dello studio delle campagne di disinformazione, Atlantic Council’s Digital Forensic Research Lab (DFRLab) e Graphika hanno rilasciato un report (pdf) che analizza l’operazione di takedown di Facebook.

Quello che colpisce in questo caso è che per la creazione degli account finti sono stati utilizzati volti generati da reti neurali avversarie, ovvero immagini di persone che non esistono. In passato chi creava profili fake si serviva di foto trovate in rete, ma che proprio per questo motivo era possibile rintracciare e collegare ad altre persone.

Invece i volti generati dall’AI sono univoci, e per capire che non sono reali è necessaria un’analisi più attenta. Quella che gli autori del report hanno chiesto a dei ricercatori italiani, provenienti dall’Università Federico II di Napoli, che hanno confermato la natura artificiale delle foto usate per i profili Facebook chiusi d’ufficio (per approfondire le tecnologie usate, qui è disponibile lo studio dei ricercatori italiani).

Il capo per la security policy di Facebook, Nathaniel Gleicher, in una dichiarazione resa al New York Times ha affermato che questa è la prima volta che si osserva l’uso sistematico di volti fake per rendere i profili più realistici, aggiungendo però che ciò non ha reso più complicato il lavoro del suo team, poiché il sistema si basa soprattutto sull’analisi dei pattern comportamentali fra gli account presi in esame.

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.