Disponibile un deepfakes detector, ma non è esente da errori

Tom Cruise su Bill Hader (deepfake)

La quantità di video deepfake online raddoppia ogni sei mesi. La startup Sensity, che da tempo si occupa di studiare metodi per il riconoscimento dei deepfakes, ha reso disponibile un servizio gratuito che consente di capire se un video contenga volti altrui sovrapposti a quelli reali.

Ho voluto provarlo anzitutto con dei video normali. Come diceva Eldon Tyrell, “voglio vedere un negativo prima di fornirle un positivo“. Ho caricato quindi alcuni video da telegiornali e serie TV e un paio di video noti per contenere deepfakes. Nessun problema dal telegiornale, ma in un video di Star Trek Voyager (una serie degli anni Novanta) il sistema ha creduto di aver individuato un deepfake. È possibile che sia stato tratto in inganno da qualche effetto speciale, anche se penso che nel 1998 per fare i mostri spaziali si prediligessero le maschere anziché le sovrapposizioni dei volti.

Passando ai video con deepfakes comprovati, uno è stato correttamente individuato, un altro noto video di deepfakes tuttavia (dove il volto di Tom Cruise viene sovrapposto a quello di Bill Hader) è stato segnalato come pulito.

Sensity test deepfakes

Ovviamente non mi aspetto un’efficacia al 100% da un servizio appena lanciato. Avrei voluto provarlo di più, ma un account gratuito dà diritto a cinque tentativi. Se volete provare anche voi basta registrarsi e caricare al massimo cinque video: How to detect a deepfake with Sensity

Luca Sambucci lavora da oltre trent'anni nella cybersecurity, occupandosi oggi di sicurezza dell'intelligenza artificiale o AI Security. Ha collaborato come esperto con il Governo italiano, la Commissione europea, il Centro Comune di Ricerca e l'Agenzia Europea per la Difesa. È fondatore di Noctive Security, startup che sviluppa software automatizzati di red teaming per LLM e agenti AI. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.