A Copenhagen l’AI usata dal 112 presenta diversi problemi etici

Call center

Da quasi un anno gli operatori del numero di emergenza a Copenhagen, il 112, possono contare su un sistema AI che riconosce autonomamente i segnali correlati a una situazione di arresto cardiaco, analizzando le chiamate e i modelli di conversazione. Il sistema è stato progettato, addestrato e testato utilizzando l’archivio dei file audio delle chiamate fornite dai servizi medici di emergenza di Copenaghen registrate durante il 2014.

Un recente studio però ha condotto un’autovalutazione etica del sistema basata sulle linee guida Trustworthy AI emanate dal gruppo di esperti della Commissione Europea, trovando ben dieci problemi di tipo etico, dall’interazione fra sistema AI e operatore umano (non è chiaro chi debba prendere la decisione), al bias nei dataset (vi è una forte presenza di certe categorie, diminuendo così l’efficacia per altre categorie di persone), passando per la scarsa trasparenza e spiegabilità.

Non di poco conto anche la mancanza di elementi che provino un aumento delle percentuali di successo, considerando che l’aggiunta di un qualsiasi sistema deve essere giustificata da un qualche tipo di miglioramento. Cosa che al momento non è possibile dimostrare.

Per approfondire: Paper: How to use the EU’s Trustworthy AI Guidelines in Practice

Mi occupo da molti anni di intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, lavorando con un'azienda leader del settore e partecipando a iniziative della Commissione Europea. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.