Commenti fake con GPT-2 per influenzare le decisioni politiche

Commenti deepfake

Un ricercatore di Harvard ha pubblicato uno studio sui commenti fake (generati da un software AI anziché da una persona), il loro tasso di successo e le possibili influenze che questo potrebbe avere sulle decisioni politiche negli Stati Uniti.

Per il suo studio Max Weiss ha utilizzato il framework GPT-2 di OpenAI assieme a Tensorflow per generare automaticamente 1001 commenti finti ma verosimili (per i curiosi, il codice è disponibile pubblicamente qui). Dopodiché ha creato un bot che fosse in grado di inserire ogni singolo commento sul sito governativo medicaid.gov senza destare sospetti. Per i suoi 1001 commenti il bot ha impiegato quattro giorni, ma i commenti fake generati dal sistema del ricercatore rappresentavano la maggioranza di tutti i commenti raccolti.

Negli Stati Uniti non è raro che le istituzioni chiedano il parare dei cittadini attraverso Internet. Senza adeguati strumenti di verifica però vi è la possibilità che la consultazione venga falsata, soprattutto ora che sono disponibili software di intelligenza artificiale che generano testi sempre più realistici.

Gli strumenti per ostacolare il lavoro dei bot in realtà già esistono, dal più semplice Captcha alla più complessa autenticazione a due fattori, ma molti organismi pubblici sono riluttanti a usarli poiché una piccola fetta della popolazione potrebbe avere problemi a partecipare.

Tuttavia, di fronte alla crescente facilità con cui è possibile creare e inviare commenti “deepfake“, oggi inizia a diventare impensabile lanciare una consultazione pubblica senza una forma di protezione dai bot.

La ricerca completa è disponibile qui: Deepfake Bot Submissions to Federal Public Comment Websites Cannot Be Distinguished from Human Submissions

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.