L’IA di YouTube raccomanda video con bambini a chi è interessato a contenuti sexy

Secondo il New York Times l’algoritmo di raccomandazione di YouTube avrebbe consigliato video di bambini poco vestiti (ad esempio perché al mare o in piscina) a persone che avevano mostrato interesse per video a sfondo sessuale.

Su YouTube vi sono innumerevoli video di famiglia, inseriti dagli stessi genitori, che ritraggono bambini magari mentre si divertono in costume da bagno. Video del tutto innocui senza contenuti equivoci. Tali filmati vengono poi “raccomandati” ad utenti del sito che in passato hanno mostrato interesse verso altri video contenenti sempre bambini poco vestiti, oppure verso video con contenuti più espliciti.

In molti casi, racconta la storia del New York Times, i video dei bambini che giocano in costume da bagno venivano raccomandati a utenti dopo che questi avevano visualizzato filmati contenenti tematiche sessuali (ad esempio video con ragazze che parlano di sesso, o donne in biancheria intima mentre allattano).

L’algoritmo che gestisce le raccomandazioni su YouTube è un software di intelligenza artificiale che ha come obiettivo quello di massimizzare il tempo di permanenza sul sito, e che quindi non si cura della moralità di chi guarda.

D’altronde il sistema di raccomandazioni garantisce all’azienda ben il 70% delle visualizzazioni totali, per questo YouTube è restìa a disattivarlo tout-court sui video contenenti minorenni.

Il problema non ha trovato una soluzione soddisfacente nonostante la risposta ufficiale di YouTube, e rientra nella più ampia discussione su allineamento o disallineamento dell’IA alle richieste etiche della società.

Per approfondire: On YouTube’s Digital Playground, an Open Gate for Pedophiles

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.