Cos’è la trasparenza nell’intelligenza artificiale?

Rete neurale

Nel contesto dell’intelligenza artificiale si parla spesso di trasparenza, ma cos’è esattamente, e a quali ambiti si applica?

L’associazione danese DataEthics, che ogni anno organizza un forum sull’etica nel mondo dei dati (quest’anno si sarebbe dovuto tenere a Roma, ma è stato rimandato a causa dell’emergenza Covid-19), ha pubblicato un interessante post dove ha riassunto 18 linee guida etiche organizzandone i contenuti in nove categorie: costi ambientali, impiego, modelli di business, diritti degli utenti, dati, algoritmi, verificabilità, affidabilità, apertura.

La tabella risultante diventa secondo me un’utile checklist che può aiutare le discussioni su come e quanto sia trasparente una data soluzione AI.

Tabella dallo studio di DataEthics
Tabella dallo studio di DataEthics

Tabella dallo studio di DataEthics

Da ricordare che trasparenza ed etica sono due concetti diversi. Con la trasparenza vogliamo conoscere più informazioni possibili, ad esempio come funziona, come è stato creato, come e da chi viene operato o gestito un sistema AI, senza esprimere giudizi etici. Dopodiché è pacifico che la trasparenza aiuta e ci mette in grado di effettuare le necessarie valutazioni etiche.

Per approfondire vi consiglio il post di DataEthics: What does ‘Transparent’ AI Mean?

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.