AI e inganni

Robot caduto

In ambito AI è spesso necessario separare la crusca dalla farina. Oggi molte aziende sbandierano soluzioni di intelligenza artificiale che però di intelligente hanno ben poco. Un professore di Princeton, Arvind Narayanan, ha pubblicato una sua presentazione dove prova a smontare molti “miti” e bugie delle aziende che promettono risultati oggi ancora irrealizzabili.

La presentazione è disponibile qui in pdf: How to recognize AI snake oil

Dalla sua analisi emerge che mentre l’AI oggi ha raggiunto ottimi risultati nel percepire le informazioni fornite dai dati (ad es. riconoscere le immagini) e risultati mediocri nell’offrire decisioni autonome (ad es. nelle recommendation engine), lasciando ancora molto a desiderare quando gli chiediamo di prevedere conseguenze in ambito sociale. Chi tornerà a delinquere, chi sarà più o meno bravo in un certo ruolo lavorativo, chi rappresenta un rischio terroristico, quale bambino sarà un ragazzo a rischio, eccetera, sono tutti aspetti che l’AI oggi si è dimostrata non in grado di gestire con soddisfazione.

Proprio in merito all’intelligenza artificiale in ambito risorse umane, seguendo le slide ho scoperto uno studio dell’anno scorso che mi era sfuggito: Mitigating Bias in Algorithmic Hiring: Evaluating Claims and Practices. In questo studio alcuni ricercatori di Cornell University vivisezionano e smontano i modelli di 18 start-up che si occupano di vagliare i CV dei candidati.

I risultati confermano le intuizioni del Prof. Narayanan, ovvero che le soluzioni oggi in vendita sono poco performanti e disseminate di pregiudizi. In altre parole, la strada che porta all’HR artificiale è ancora estremamente lunga.

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.