Secondo il New York Times l’algoritmo di raccomandazione di YouTube avrebbe consigliato video di bambini poco vestiti (ad esempio perché al mare o in piscina) a persone che avevano mostrato interesse per video a sfondo sessuale.
Su YouTube vi sono innumerevoli video di famiglia, inseriti dagli stessi genitori, che ritraggono bambini magari mentre si divertono in costume da bagno. Video del tutto innocui senza contenuti equivoci. Tali filmati vengono poi “raccomandati” ad utenti del sito che in passato hanno mostrato interesse verso altri video contenenti sempre bambini poco vestiti, oppure verso video con contenuti più espliciti.
In molti casi, racconta la storia del New York Times, i video dei bambini che giocano in costume da bagno venivano raccomandati a utenti dopo che questi avevano visualizzato filmati contenenti tematiche sessuali (ad esempio video con ragazze che parlano di sesso, o donne in biancheria intima mentre allattano).
L’algoritmo che gestisce le raccomandazioni su YouTube è un software di intelligenza artificiale che ha come obiettivo quello di massimizzare il tempo di permanenza sul sito, e che quindi non si cura della moralità di chi guarda.
D’altronde il sistema di raccomandazioni garantisce all’azienda ben il 70% delle visualizzazioni totali, per questo YouTube è restìa a disattivarlo tout-court sui video contenenti minorenni.
Il problema non ha trovato una soluzione soddisfacente nonostante la risposta ufficiale di YouTube, e rientra nella più ampia discussione su allineamento o disallineamento dell’IA alle richieste etiche della società.
Per approfondire: On YouTube’s Digital Playground, an Open Gate for Pedophiles
