È giusto far “risorgere” le persone con i deepfakes?

Joaquin Oliver deepfake

Nel 2018 un ragazzo armato di un fucile semi-automatico aprì il fuoco contro insegnanti e studenti della Marjory Stoneman Douglas High School a Parkland, in Florida, uccidendo 17 persone e ferendone altre 17. L’episodio è noto come il massacro di Parkland.

Oggi grazie ai deepfakes i genitori di una delle vittime, il diciassettenne Joaquin Oliver, hanno “resuscitato” il figlio per renderlo testimonial di un video-messaggio contro la lobby delle armi.

Il messaggio fa riferimento alle imminenti votazioni statunitensi, chiedendo ai cittadini di votare chi si oppone alle armi facili, facendolo in nome di tutta quella gente che essendo morta in una sparatoria non è più in grado di esprimere il proprio voto. L’associazione dei genitori di Joaquin, Change the Ref, ha creato la campagna The unfinished votes dove l’immagine in grafica computerizzata del figlio campeggia in ogni messaggio.

Il video è volutamente duro, sia nell’ambientazione sia nella musica di sottofondo, e mostra la ricostruzione in deepfake di Joaquin che si rivolge al pubblico presumibilmente con un linguaggio e con i toni tipici del ragazzo morto nella sparatoria.

La domanda che si pongono in molti però, e che preoccupa anche me, è se sia davvero giusto riportare in vita sullo schermo persone decedute per far dichiarare loro cose arbitrariamente decise dai loro familiari. C’è chi parla apertamente di necromanzia digitale.

In linea di principio qualcosa del genere viene fatto fin da quando esiste la pittura, ma oggi con i deepfakes il realismo raggiunge livelli impressionanti, che in certe situazioni magari con qualche deficit di chiarezza (ma non è questo il caso) potrebbero indurre lo spettatore a credere di stare guardando un video originale.

Si potrebbe anche obiettare che già in diverse pellicole sono stati usati attori morti da molti anni, come ad esempio James Dean, oppure personaggi politici come Kennedy, Johnson e Nixon in Forrest Gump. Ma ora che la realizzazione di un deepfake inizia a essere un’impresa alla portata di qualsiasi studio grafico, c’è da interrogarsi sui limiti di un uso corretto di questa tecnologia.

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.