A Copenhagen l’AI usata dal 112 presenta diversi problemi etici

Call center

Da quasi un anno gli operatori del numero di emergenza a Copenhagen, il 112, possono contare su un sistema AI che riconosce autonomamente i segnali correlati a una situazione di arresto cardiaco, analizzando le chiamate e i modelli di conversazione. Il sistema è stato progettato, addestrato e testato utilizzando l’archivio dei file audio delle chiamate fornite dai servizi medici di emergenza di Copenaghen registrate durante il 2014.

Un recente studio però ha condotto un’autovalutazione etica del sistema basata sulle linee guida Trustworthy AI emanate dal gruppo di esperti della Commissione Europea, trovando ben dieci problemi di tipo etico, dall’interazione fra sistema AI e operatore umano (non è chiaro chi debba prendere la decisione), al bias nei dataset (vi è una forte presenza di certe categorie, diminuendo così l’efficacia per altre categorie di persone), passando per la scarsa trasparenza e spiegabilità.

Non di poco conto anche la mancanza di elementi che provino un aumento delle percentuali di successo, considerando che l’aggiunta di un qualsiasi sistema deve essere giustificata da un qualche tipo di miglioramento. Cosa che al momento non è possibile dimostrare.

Per approfondire: Paper: How to use the EU’s Trustworthy AI Guidelines in Practice

Sono partner e fondatore di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti l'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI), della Association for Computing Machinery (ACM) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.