Latitude è stata una delle prime aziende a offrire ai propri utenti un accesso al modello di linguaggio naturale GPT-3, attraverso un sito – AI Dungeon – dove è possibile creare storie in vari ambienti, ad es. fantasy, cyberpunk, ecc. L’utente offre una frase iniziale e GPT-3 continua il racconto, creando una storia completamente nuova ma “guidata” dall’utente attraverso aggiustamenti, qualche frase di supporto qua e là, o richieste di riscrittura dei contenuti.
Poco tempo fa, attraverso un nuovo sistema di moderazione, si è scoperto che molti utenti usavano GPT-3 per creare storie a sfondo sessuale nelle quali erano coinvolti bambini. Storie di pedofilia, insomma. A quel punto sia OpenAI, l’azienda che ha concesso in licenza GPT-3, sia Latitude si sono attivate per imporre una moderazione automatica dei contenuti più decisa ma anche più goffa, che per questo ha fatto infuriare molti utenti (uno di loro si è lamentato che non poteva scrivere “un laptop di 8 anni” senza incorrere in messaggi di avvertimento da parte del sistema).
La storia, raccontata da Wired, mostra come i nostri valori etici e morali siano ancora estranei ai modelli di AI generativa, e come questi ultimi possano essere facilmente usati da persone senza scrupoli per creare materiale che qualsiasi società umana censurerebbe senza pensarci due volte.
Per approfondire: It Began as an AI-Fueled Dungeon Game. It Got Much Darker
