Studio di Telecom Paris sui criteri di trasparenza dell’intelligenza artificiale

XAI - AI spiegabile

Ho letto di recente un interessante studio di Telecom Paris sulla explainability, la spiegabilità dell’intelligenza artificiale, che prende di petto il problema e propone criteri per identificare il giusto livello di spiegabilità a seconda dell’ambito di applicazione.

Infatti aggiungere trasparenza e spiegabilità ai sistemi AI è spesso costoso, e non tutti i sistemi hanno bisogno dello stesso livello di trasparenza. Per fare un esempio, in un sistema di guida autonoma si dovrà porre molta più attenzione alla spiegabilità delle decisioni rispetto a un sistema per la raccomandazione dei film.

I criteri contestuali identificati dallo studio sono quattro:

  • le persone che dovranno beneficiare delle spiegazioni: ad es. il pubblico, oppure un ente regolatore?
  • l’importanza e l’impatto dell’algoritmo: eseguirà operazioni vitali come guidare un’auto, oppure superficiali/cosmetiche come raccomandare canzoni?
  • il framework legale di riferimento, ad esempio nell’Unione Europea abbiamo il GDPR da rispettare
  • fattori operativi che identificano la reale necessità di rendere l’algoritmo spiegabile: lo si deve fare per ottenere una certificazione, oppure per aumentare la fiducia degli utenti?

Un ulteriore apprezzamento al fatto che lo studio sia stato condotto con un approccio multi-disciplinare. È possibile scaricarlo qui (in pdf) e leggere la presentazione a questo link.

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.