Chatbot coreano impara dagli utenti a essere razzista e omofobo

Quando si vuole portare l’esempio di un chatbot che inizia a comportarsi in maniera imbarazzante, magari rigurgitando insulti razzisti e discriminatori che ha imparato da altri utenti, si cita sempre Tay di Microsoft, che nell’ormai lontano 2016 venne messo online su Twitter e quindi rapidamente offline dopo sole 16 ore per aver dato il peggio di sé.

Ora abbiamo un esempio in più recente con cui riempire le note a piè pagina: Lee Luda è un chatbot coreano creato dalla startup Scatter Lab che, messo online come app a fine dicembre, è stato sospeso a gennaio dopo aver prodotto risposte razziste e omofobe.

A quanto pare il dataset usato per addestrare il chatbot era composto dalle chat degli utenti scambiate in un’altra app dell’azienda, chiamata Science of Love. Come se non bastasse il danno di immagine, ora l’azienda si dovrà preparare a una possibile class action da parte degli utenti dell’app, ignari che le loro chat sarebbero state usate per questo scopo.

Quando si dice che chi non conosce la storia è condannato a ripeterla..

Per approfondire: AI Chatbot Shut Down After Learning to Talk Like a Racist Asshole

Sono partner e fondatore di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti l'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI), della Association for Computing Machinery (ACM) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.