GPT-3 usato per creare storie pedopornografiche

Latitude è stata una delle prime aziende a offrire ai propri utenti un accesso al modello di linguaggio naturale GPT-3, attraverso un sito – AI Dungeon – dove è possibile creare storie in vari ambienti, ad es. fantasy, cyberpunk, ecc. L’utente offre una frase iniziale e GPT-3 continua il racconto, creando una storia completamente nuova ma “guidata” dall’utente attraverso aggiustamenti, qualche frase di supporto qua e là, o richieste di riscrittura dei contenuti.

Poco tempo fa, attraverso un nuovo sistema di moderazione, si è scoperto che molti utenti usavano GPT-3 per creare storie a sfondo sessuale nelle quali erano coinvolti bambini. Storie di pedofilia, insomma. A quel punto sia OpenAI, l’azienda che ha concesso in licenza GPT-3, sia Latitude si sono attivate per imporre una moderazione automatica dei contenuti più decisa ma anche più goffa, che per questo ha fatto infuriare molti utenti (uno di loro si è lamentato che non poteva scrivere “un laptop di 8 anni” senza incorrere in messaggi di avvertimento da parte del sistema).

La storia, raccontata da Wired, mostra come i nostri valori etici e morali siano ancora estranei ai modelli di AI generativa, e come questi ultimi possano essere facilmente usati da persone senza scrupoli per creare materiale che qualsiasi società umana censurerebbe senza pensarci due volte.

Per approfondire: It Began as an AI-Fueled Dungeon Game. It Got Much Darker

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.