Facebook proibisce i deepfakes, con alcune eccezioni

Deepfakes

In un post sul blog di Facebook, Monika Bickert – vice presidente per la policy – ha annunciato che il social network vieterà i video contenenti deepfakes, ovvero quei video alterati da software di intelligenza artificiale, contenenti persone con i volti cambiati o con frasi manipolate, fatti così bene da sembrare veri.

I deepfakes sono emersi in questi ultimi anni grazie alle reti neurali generative avversarie (GAN, generative adversarial network) opportunamente addestrate in maniera competitiva, con risultati spesso così buoni da ingannare la maggior parte di chi li vede.

Facebook ha decisio di vietare i deepfakes creati con l’intento di ingannare le persone, lasciando invece campo libero alle parodie e alla satira. Un’eccezione non da poco, visto che in molti casi non è facile stabilire cosa è satira e cosa non lo è. Inoltre, limitando il divieto ai soli deepfakes, si consentono tutti quei tipi di manipolazione eseguita senza l’ausilio dell’intelligenza artificiale, come ad esempio l’ormai famoso video di Nancy Pelosi manipolato per farla sembrare “rallentata”.

Un altro problema è rappresentato dal riconoscimento automatico dei deepfakes: se sono fatti così bene, come è possibile riconoscerli con accuratezza e soprattutto in maniera automatizzata? Facebook sta cercando aiuto dal mondo accademico e della ricerca con accordi ad hoc, nonché dal mondo privato lanciando – assieme a Microsoft e ad Amazon – la Deepfake Detection Challenge, una competizione che esorta ricercatori e sviluppatori a creare una soluzione per riconoscere e prevenire i deepfakes in maniera automatica.

Per approfondire: Facebook to ban ‘deepfakes’

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.