Il bias che ci portiamo dietro

Quando cerco di spiegare a qualcuno cos’è il bias (pregiudizio) che la nostra società instilla più o meno involontariamente nei modelli di intelligenza artificiale, faccio spesso riferimento alla seguente immagine:

Il modello ha correttamente riconosciuto la donna come sposa sia nella prima sia nella seconda immagine, ma non lo ha fatto nella terza, nonostante anche l’immagine a destra mostri due persone nel giorno delle nozze, vestiti con gli abiti caratteristici.

Non si tratta ovviamente di “razzismo”, ma più semplicemente del fatto che il modello è stato presumibilemnte addestrato con tante immagini provenienti dalla cultura occidentale, e comparativamente poche provenienti da altre culture.

I risultati di questa preponderanza di “training occidentale” possono essere molto diversi, ma generalmente sono sempre a discapito di chi è meno rappresentato.

L’articolo collegato a questa immagine non è recente, e descrive come Google Research abbia lanciato la Inclusive Images Challenge per rendere i modelli di apprendimento più attenti a eventuali bias e zone d’ombra, in modo che siano efficaci anche quando hanno pochi dati a disposizione.

Con la progressiva adozione di strumenti di machine learning in molti ambiti della nostra vita dobbiamo sempre tenere a mente quanto sia importante l’inclusività nell’IA, sia per questioni etiche e morali, sia per una questione di miglioramento dei modelli.

Ma anche perché alla fine della giornata tutti noi apparteniamo a qualche minoranza (culturale, razziale, politica, estetica, sportiva, anagrafica, economica, demografica, ecc) e se non affrontiamo oggi il problema del bias, rischieremo un giorno di essere esclusi, sottovalutati o “maltrattati” da un modello di intelligenza artificiale addestrato male.

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.