Online il più grande database di incidenti causati dall’AI

Robot che ha avuto giornate migliori

Questa estate sono stato fra i pochi fortunati a poter accedere in anteprima al lavoro condotto dal ricercatore Sean McGregor sugli incidenti causati da sistemi di intelligenza artificiale.

Per via di un libro che sto contribuendo a scrivere (ve ne parlerò a marzo) avevo bisogno di accedere a un database che contenesse una raccolta di incidenti – intesi in maniera generica, quindi fallimenti, errori, risultati aberranti – causati in tutti questi anni dagli algoritmi di intelligenza artificiale. Tramite alcuni ricercatori arrivai al progetto di Sean, che lavora per XPRIZE Foundation e Partnership on AI, un’organizzazione creata dalle maggiori aziende tecnologiche al mondo per promuovere lo sviluppo dell’AI e il lavoro di ricerca.

Il database The AI Incident Database (AIID), ora disponibile a tutti, contiene oltre mille articoli e riferimenti a incidenti causati da sistemi automatizzati, dal “flash crash” che sconvolse i mercati nel 2010 all’uccisione di un pedone da parte di un’auto a guida autonoma nel 2018, dai tanti errori nel riconoscimento facciale in giro per il mondo alle molteplici “ribellioni” di chatbot che rifiutano di comportarsi come dovrebbero.

Questo lavoro si ispira, per stessa ammissione dell’autore, a simili database già esistenti in altri settori, come l’aviazione o la cybersecurity, cercando di combinarne i punti di forza. Lo scopo ovviamente non è quello di intralciare la marcia (inarrestabile) dell’intelligenza artificiale, bensì di aiutarne lo sviluppo positivo evidenziando e catalogando i problemi per migliorare la ricerca.

Per approfondire consiglio anzitutto l’articolo di presentazione scritto dall’autore: When AI Systems Fail: Introducing the AI Incident Database

Il paper della ricerca si trova qui: Preventing Repeated Real World AI Failures by Cataloging Incidents: The AI Incident Database

La pagina principale del database si trova qui, ma per accedere al db vero e proprio bisogna sapere dove cliccare. Per semplicità eccovi il link diretto.

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.