MyStyle ricrea fedelmente il nostro volto con un piccolo dataset di foto

Deepfake

Un altro passo verso i deepfake fai-da-te, o deepfake casalinghi come li chiamo io, ovvero la capacità di manipolare video e immagini con pochi, semplici click, usando volti di persone che conosciamo per creare contenuti completamente artefatti. Una tecnologia già disponibile, come sappiamo, ma non ancora alla portata di tutti.

Quando usciranno software abbastanza semplici da usare, anche una persona con poche competenze informatiche sarà in grado di creare immagini o video compromettenti con i volti dei suoi malcapitati conoscenti. Ma se finora era necessario raccogliere ore e ore di filmati video, o anche migliaia di immagini della persona “target”, adesso bastano un centinaio di foto per generare risultati di qualità.

L’Università di Tel-Aviv assieme a Google Research hanno rilasciato MyStyle, un sistema AI in grado di ricostruire, migliorare e modificare immagini di persone, necessitando solo di un centinaio di immagini per addestrare il modello (ovviamente, con un numero maggiore di immagini i risultati miglioreranno).

Una volta che abbiamo il modello del volto che vogliamo manipolare, è possibile  ad esempio aumentare la definizione delle immagini: pensiamo a una foto sgranata o a bassa risoluzione che può essere modificata per mostrare meglio il volto target. Oppure con l’inpainting è possibile ricreare con buona fedeltà le zone del volto cancellate od oscurate, potendo ad esempio rigenerare una parte del volto coperta da un ostacolo, o da occhiali da sole, o da una mascherina. Ma con l’edit ci si può spingere oltre, consentendo di cambiare angolazione o espressione del volto (ad es. da serio a sorridente, o viceversa).

Infine la funzione di sintesi: con il modello del volto possiamo generare immagini della persona target in qualsiasi posa o espressione vogliamo noi. Gli esempi sottostanti mostrano il volto dell’attrice Emilia Clarke sintetizzato da MyStyle.

Il volto di Emilia Clarke sintetizzato dal modello MyStyle

Le “foto” in alto in realtà non sono mai state scattate all’artista in carne e ossa, ma sono state generate dai ricercatori usando il loro sistema di intelligenza artificiale. Alle pagine dove viene esposta la ricerca sono disponibili molti altri esempi di personaggi famosi: MyStyle: A Personalized Generative Prior e Supplementary Material.

Il problema ovviamente non è degli studiosi che fanno ricerca: il progresso va avanti comunque e questo modello può avere degli usi completamente legittimi, come la ricostruzione o il miglioramento delle fotografie. Saranno però gli illeciti, ovvero la manipolazione e la generazione di volti di persone senza il loro consenso, a scatenare nei prossimi anni problemi giuridici e sociali.

Già adesso vi sono allo studio leggi che proibiscono la pratica o che impongono requisiti di trasparenza, basta guardare agli esempi negli Stati Uniti, in Europa con l’AI Act e in Cina, con il ban totale. Ma è lecito supporre che chi produrrà questo tipo di materiale non si farà molti scrupoli, né sul piano legale né tanto meno su quello morale. L’argine alla produzione e alla diffusione di questi contenuti sarà probabilmente un misto di pene severe e di totale ostilità sociale, un po’ come oggi avviene con la pedopornografia.

Ad ogni modo, considerando che oggi non è per niente difficile scaricare cento o duecento immagini di una persona, soprattutto se posta frequentemente fotografie di sé sui social media, la strada verso i deepfake casalinghi purtroppo è un po’ più vicina.

Mi occupo da molti anni di intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.