Il bias che ci portiamo dietro

Quando cerco di spiegare a qualcuno cos’è il bias (pregiudizio) che la nostra società instilla più o meno involontariamente nei modelli di intelligenza artificiale, faccio spesso riferimento alla seguente immagine:

Il modello ha correttamente riconosciuto la donna come sposa sia nella prima sia nella seconda immagine, ma non lo ha fatto nella terza, nonostante anche l’immagine a destra mostri due persone nel giorno delle nozze, vestiti con gli abiti caratteristici.

Non si tratta ovviamente di “razzismo”, ma più semplicemente del fatto che il modello è stato presumibilemnte addestrato con tante immagini provenienti dalla cultura occidentale, e comparativamente poche provenienti da altre culture.

I risultati di questa preponderanza di “training occidentale” possono essere molto diversi, ma generalmente sono sempre a discapito di chi è meno rappresentato.

L’articolo collegato a questa immagine non è recente, e descrive come Google Research abbia lanciato la Inclusive Images Challenge per rendere i modelli di apprendimento più attenti a eventuali bias e zone d’ombra, in modo che siano efficaci anche quando hanno pochi dati a disposizione.

Con la progressiva adozione di strumenti di machine learning in molti ambiti della nostra vita dobbiamo sempre tenere a mente quanto sia importante l’inclusività nell’IA, sia per questioni etiche e morali, sia per una questione di miglioramento dei modelli.

Ma anche perché alla fine della giornata tutti noi apparteniamo a qualche minoranza (culturale, razziale, politica, estetica, sportiva, anagrafica, economica, demografica, ecc) e se non affrontiamo oggi il problema del bias, rischieremo un giorno di essere esclusi, sottovalutati o “maltrattati” da un modello di intelligenza artificiale addestrato male.

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.