Politico in India usa deepfakes per parlare la lingua degli elettori

Manoj Tiwari
Il politico indiano Manoj Tiwari in uno dei deepfakes.

Durante le recenti elezioni in India, il presidente del Partito Bharatiya Janata (BJP), Manoj Tiwari, ha usato un video per rivolgersi a una nutrita base di elettori parlando nella loro lingua madre, un dialetto hindi della regione di Haryana. Sembrerebbe tutto normale, tranne il fatto che il politico in questione quel dialetto probabilmente non lo ha mai parlato: il video era un deepfake.

Il partito BJP si è servito della società di comunicazione politica The Ideaz Factory per creare “campagne positive” utilizzando i deepfake per raggiungere con lo stesso video elettori che parlano lingue diverse. In pratica Tiwari ha prima registrato un video nella sua lingua madre (qui il link), quindi ha realizzato una traduzione e un doppiaggio nel dialetto Haryanvi (a Delhi vi è un grande numero di lavoratori migranti provenienti dalla regione di Haryana) dopodiché avrebbe autorizzato l’azienda a modificare il movimento delle labbra per renderlo identico al messaggio recitato dal doppiatore (qui il video deepfake).

Sagar Vishnoi, capo stratega di The Ideaz Factory intervistato da Vice (che ha dato la notizia del video) afferma di aver utilizzato un deepfake “lip-sync” addestrato con i discorsi di Manoj Tiwari. Secondo Neelkant Bakshi, co-responsabile dei social media per il BJP di Delhi, questi deepfakes sono stati distribuiti su 5.800 gruppi WhatsApp nella regione di Delhi, raggiungendo circa 15 milioni di persone.

Il risultato è un video credibile, dove Tiwari si rivolge con naturalezza in una lingua che in realtà non parla. Secondo Bakshi “i video in Haryanvi ci consentono di avvicinarci in modo convincente al pubblico target, anche se il candidato non parla la lingua dell’elettore”. Rivelando poi che la risposta al video è stata incoraggiante “le casalinghe del gruppo hanno affermato che è stato rassicurante vedere il nostro leader parlare la loro lingua”, ha detto riportando uno dei commenti su un gruppo WhatsApp. Dopo la buona risposta del video, il partito ne ha fatto un altro in inglese per mirare agli elettori urbani di Delhi (video). Sempre ovviamente in deepfake.

Quello che spaventa è la facilità con cui è possibile realizzare video convincenti, dove leader politici dicono cose mai dette e milioni di elettori le prendono per vere. Questa volta è stato usato con la presunta approvazione del politico, ma questo “sdoganamento” dei deepfakes a fini politici è una svolta che non piace e che preoccupa.

Per approfondire: An Indian politician is using deepfake technology to win new voters

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.