Online il più grande database di incidenti causati dall’AI

Robot che ha avuto giornate migliori

Questa estate sono stato fra i pochi fortunati a poter accedere in anteprima al lavoro condotto dal ricercatore Sean McGregor sugli incidenti causati da sistemi di intelligenza artificiale.

Per via di un libro che sto contribuendo a scrivere (ve ne parlerò a marzo) avevo bisogno di accedere a un database che contenesse una raccolta di incidenti – intesi in maniera generica, quindi fallimenti, errori, risultati aberranti – causati in tutti questi anni dagli algoritmi di intelligenza artificiale. Tramite alcuni ricercatori arrivai al progetto di Sean, che lavora per XPRIZE Foundation e Partnership on AI, un’organizzazione creata dalle maggiori aziende tecnologiche al mondo per promuovere lo sviluppo dell’AI e il lavoro di ricerca.

Il database The AI Incident Database (AIID), ora disponibile a tutti, contiene oltre mille articoli e riferimenti a incidenti causati da sistemi automatizzati, dal “flash crash” che sconvolse i mercati nel 2010 all’uccisione di un pedone da parte di un’auto a guida autonoma nel 2018, dai tanti errori nel riconoscimento facciale in giro per il mondo alle molteplici “ribellioni” di chatbot che rifiutano di comportarsi come dovrebbero.

Questo lavoro si ispira, per stessa ammissione dell’autore, a simili database già esistenti in altri settori, come l’aviazione o la cybersecurity, cercando di combinarne i punti di forza. Lo scopo ovviamente non è quello di intralciare la marcia (inarrestabile) dell’intelligenza artificiale, bensì di aiutarne lo sviluppo positivo evidenziando e catalogando i problemi per migliorare la ricerca.

Per approfondire consiglio anzitutto l’articolo di presentazione scritto dall’autore: When AI Systems Fail: Introducing the AI Incident Database

Il paper della ricerca si trova qui: Preventing Repeated Real World AI Failures by Cataloging Incidents: The AI Incident Database

La pagina principale del database si trova qui, ma per accedere al db vero e proprio bisogna sapere dove cliccare. Per semplicità eccovi il link diretto.

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.