Non tutti i sistemi AI sopravvivono al contatto con il mondo reale

Google Health Thailand screening

(ogni riferimento a von Moltke è intenzionale)

Può capitare a volte che le soluzioni di intelligenza artificiale migliorino i servizi e diminuiscano i tempi solo sulla carta. Implementazioni sbagliate, problemi imprevisti o semplici errori di valutazione possono trasformare un progetto teoricamente perfetto in un fallimento. Per questo motivo alcuni ricercatori di Google Health hanno voluto controllare sul campo l’utilizzo delle loro soluzioni AI in alcune cliniche delle province di Pathum Thani e Chiang Ma, in Thailandia, dove il Ministero della salute locale ha deciso di intraprendere uno screening massiccio della retinopatia diabetica.

I ricercatori hanno scoperto che la mancanza in molti casi dell’illuminazione adatta per scattare foto alla retina dei pazienti, o connessioni Internet poco affidabili nelle cliniche locali impattavano negativamente sull’efficacia della tecnologia AI. In diversi casi i pazienti finivano per perdere più tempo, oppure non ottenevano lo screening per il quale si erano presentati in clinica.

Questo insegna che anche la migliore tecnologia può fallire se non vengono seguite tutte le fasi dell’implementazione. Vista poi la novità portata dai sistemi AI, per non parlare della “delicatezza” di molti modelli (per mantenere un alto tasso di accuratezza il sistema di Google rifiutava qualsiasi immagine con scarsa illuminazione: oltre una su cinque), ogni messa in produzione dovrebbe essere seguita attentamente per verificarne l’adeguatezza con il mondo reale.

Per approfondire potete leggere il post sul blog di Google o direttamente lo studio.

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.