GPT-3 usato per creare storie pedopornografiche

Latitude è stata una delle prime aziende a offrire ai propri utenti un accesso al modello di linguaggio naturale GPT-3, attraverso un sito – AI Dungeon – dove è possibile creare storie in vari ambienti, ad es. fantasy, cyberpunk, ecc. L’utente offre una frase iniziale e GPT-3 continua il racconto, creando una storia completamente nuova ma “guidata” dall’utente attraverso aggiustamenti, qualche frase di supporto qua e là, o richieste di riscrittura dei contenuti.

Poco tempo fa, attraverso un nuovo sistema di moderazione, si è scoperto che molti utenti usavano GPT-3 per creare storie a sfondo sessuale nelle quali erano coinvolti bambini. Storie di pedofilia, insomma. A quel punto sia OpenAI, l’azienda che ha concesso in licenza GPT-3, sia Latitude si sono attivate per imporre una moderazione automatica dei contenuti più decisa ma anche più goffa, che per questo ha fatto infuriare molti utenti (uno di loro si è lamentato che non poteva scrivere “un laptop di 8 anni” senza incorrere in messaggi di avvertimento da parte del sistema).

La storia, raccontata da Wired, mostra come i nostri valori etici e morali siano ancora estranei ai modelli di AI generativa, e come questi ultimi possano essere facilmente usati da persone senza scrupoli per creare materiale che qualsiasi società umana censurerebbe senza pensarci due volte.

Per approfondire: It Began as an AI-Fueled Dungeon Game. It Got Much Darker

Sono partner e fondatore di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti l'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI), della Association for Computing Machinery (ACM) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.