Non tutti i sistemi AI sopravvivono al contatto con il mondo reale

Google Health Thailand screening

(ogni riferimento a von Moltke è intenzionale)

Può capitare a volte che le soluzioni di intelligenza artificiale migliorino i servizi e diminuiscano i tempi solo sulla carta. Implementazioni sbagliate, problemi imprevisti o semplici errori di valutazione possono trasformare un progetto teoricamente perfetto in un fallimento. Per questo motivo alcuni ricercatori di Google Health hanno voluto controllare sul campo l’utilizzo delle loro soluzioni AI in alcune cliniche delle province di Pathum Thani e Chiang Ma, in Thailandia, dove il Ministero della salute locale ha deciso di intraprendere uno screening massiccio della retinopatia diabetica.

I ricercatori hanno scoperto che la mancanza in molti casi dell’illuminazione adatta per scattare foto alla retina dei pazienti, o connessioni Internet poco affidabili nelle cliniche locali impattavano negativamente sull’efficacia della tecnologia AI. In diversi casi i pazienti finivano per perdere più tempo, oppure non ottenevano lo screening per il quale si erano presentati in clinica.

Questo insegna che anche la migliore tecnologia può fallire se non vengono seguite tutte le fasi dell’implementazione. Vista poi la novità portata dai sistemi AI, per non parlare della “delicatezza” di molti modelli (per mantenere un alto tasso di accuratezza il sistema di Google rifiutava qualsiasi immagine con scarsa illuminazione: oltre una su cinque), ogni messa in produzione dovrebbe essere seguita attentamente per verificarne l’adeguatezza con il mondo reale.

Per approfondire potete leggere il post sul blog di Google o direttamente lo studio.

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton e una certificazione Artificial Intelligence Professional da IBM. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Partecipo ai lavori della European AI Alliance della Commissione Europea e del Consultation Forum for Sustainable Energy in the Defence and Security Sector della European Defence Agency. Questo blog è personale.