È giusto far “risorgere” le persone con i deepfakes?

Joaquin Oliver deepfake

Nel 2018 un ragazzo armato di un fucile semi-automatico aprì il fuoco contro insegnanti e studenti della Marjory Stoneman Douglas High School a Parkland, in Florida, uccidendo 17 persone e ferendone altre 17. L’episodio è noto come il massacro di Parkland.

Oggi grazie ai deepfakes i genitori di una delle vittime, il diciassettenne Joaquin Oliver, hanno “resuscitato” il figlio per renderlo testimonial di un video-messaggio contro la lobby delle armi.

Il messaggio fa riferimento alle imminenti votazioni statunitensi, chiedendo ai cittadini di votare chi si oppone alle armi facili, facendolo in nome di tutta quella gente che essendo morta in una sparatoria non è più in grado di esprimere il proprio voto. L’associazione dei genitori di Joaquin, Change the Ref, ha creato la campagna The unfinished votes dove l’immagine in grafica computerizzata del figlio campeggia in ogni messaggio.

Il video è volutamente duro, sia nell’ambientazione sia nella musica di sottofondo, e mostra la ricostruzione in deepfake di Joaquin che si rivolge al pubblico presumibilmente con un linguaggio e con i toni tipici del ragazzo morto nella sparatoria.

La domanda che si pongono in molti però, e che preoccupa anche me, è se sia davvero giusto riportare in vita sullo schermo persone decedute per far dichiarare loro cose arbitrariamente decise dai loro familiari. C’è chi parla apertamente di necromanzia digitale.

In linea di principio qualcosa del genere viene fatto fin da quando esiste la pittura, ma oggi con i deepfakes il realismo raggiunge livelli impressionanti, che in certe situazioni magari con qualche deficit di chiarezza (ma non è questo il caso) potrebbero indurre lo spettatore a credere di stare guardando un video originale.

Si potrebbe anche obiettare che già in diverse pellicole sono stati usati attori morti da molti anni, come ad esempio James Dean, oppure personaggi politici come Kennedy, Johnson e Nixon in Forrest Gump. Ma ora che la realizzazione di un deepfake inizia a essere un’impresa alla portata di qualsiasi studio grafico, c’è da interrogarsi sui limiti di un uso corretto di questa tecnologia.

Mi occupo da molti anni di intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, lavorando con un'azienda leader del settore e partecipando a iniziative della Commissione Europea. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.