Cos’è la trasparenza nell’intelligenza artificiale?

Rete neurale

Nel contesto dell’intelligenza artificiale si parla spesso di trasparenza, ma cos’è esattamente, e a quali ambiti si applica?

L’associazione danese DataEthics, che ogni anno organizza un forum sull’etica nel mondo dei dati (quest’anno si sarebbe dovuto tenere a Roma, ma è stato rimandato a causa dell’emergenza Covid-19), ha pubblicato un interessante post dove ha riassunto 18 linee guida etiche organizzandone i contenuti in nove categorie: costi ambientali, impiego, modelli di business, diritti degli utenti, dati, algoritmi, verificabilità, affidabilità, apertura.

La tabella risultante diventa secondo me un’utile checklist che può aiutare le discussioni su come e quanto sia trasparente una data soluzione AI.

Tabella dallo studio di DataEthics
Tabella dallo studio di DataEthics

Tabella dallo studio di DataEthics

Da ricordare che trasparenza ed etica sono due concetti diversi. Con la trasparenza vogliamo conoscere più informazioni possibili, ad esempio come funziona, come è stato creato, come e da chi viene operato o gestito un sistema AI, senza esprimere giudizi etici. Dopodiché è pacifico che la trasparenza aiuta e ci mette in grado di effettuare le necessarie valutazioni etiche.

Per approfondire vi consiglio il post di DataEthics: What does ‘Transparent’ AI Mean?

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.