Facebook chiude centinaia di pagine, gruppi e account con volti generati dall’AI

Error level analysis per uno dei profili fake. Dal rapporto di Graphika e DFRLab
Error level analysis per uno dei profili fake. Dal rapporto di Graphika e DFRLab

Facebook ha annunciato di aver chiuso pagine, gruppi e account individuali collegati a Epoch Media Group, un’organizzazione USA con ramificazioni estere, per attività di interferenza straniera. O in altre parole, le classiche attività di disinformazione orchestrate da ignoti attori stranieri (governi, organizzazioni) al fine di influenzare l’elettorato USA.

Due organizzazioni che si occupano dello studio delle campagne di disinformazione, Atlantic Council’s Digital Forensic Research Lab (DFRLab) e Graphika hanno rilasciato un report (pdf) che analizza l’operazione di takedown di Facebook.

Quello che colpisce in questo caso è che per la creazione degli account finti sono stati utilizzati volti generati da reti neurali avversarie, ovvero immagini di persone che non esistono. In passato chi creava profili fake si serviva di foto trovate in rete, ma che proprio per questo motivo era possibile rintracciare e collegare ad altre persone.

Invece i volti generati dall’AI sono univoci, e per capire che non sono reali è necessaria un’analisi più attenta. Quella che gli autori del report hanno chiesto a dei ricercatori italiani, provenienti dall’Università Federico II di Napoli, che hanno confermato la natura artificiale delle foto usate per i profili Facebook chiusi d’ufficio (per approfondire le tecnologie usate, qui è disponibile lo studio dei ricercatori italiani).

Il capo per la security policy di Facebook, Nathaniel Gleicher, in una dichiarazione resa al New York Times ha affermato che questa è la prima volta che si osserva l’uso sistematico di volti fake per rendere i profili più realistici, aggiungendo però che ciò non ha reso più complicato il lavoro del suo team, poiché il sistema si basa soprattutto sull’analisi dei pattern comportamentali fra gli account presi in esame.

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.