(ogni riferimento a von Moltke è intenzionale)
Può capitare a volte che le soluzioni di intelligenza artificiale migliorino i servizi e diminuiscano i tempi solo sulla carta. Implementazioni sbagliate, problemi imprevisti o semplici errori di valutazione possono trasformare un progetto teoricamente perfetto in un fallimento. Per questo motivo alcuni ricercatori di Google Health hanno voluto controllare sul campo l’utilizzo delle loro soluzioni AI in alcune cliniche delle province di Pathum Thani e Chiang Ma, in Thailandia, dove il Ministero della salute locale ha deciso di intraprendere uno screening massiccio della retinopatia diabetica.
I ricercatori hanno scoperto che la mancanza in molti casi dell’illuminazione adatta per scattare foto alla retina dei pazienti, o connessioni Internet poco affidabili nelle cliniche locali impattavano negativamente sull’efficacia della tecnologia AI. In diversi casi i pazienti finivano per perdere più tempo, oppure non ottenevano lo screening per il quale si erano presentati in clinica.
Questo insegna che anche la migliore tecnologia può fallire se non vengono seguite tutte le fasi dell’implementazione. Vista poi la novità portata dai sistemi AI, per non parlare della “delicatezza” di molti modelli (per mantenere un alto tasso di accuratezza il sistema di Google rifiutava qualsiasi immagine con scarsa illuminazione: oltre una su cinque), ogni messa in produzione dovrebbe essere seguita attentamente per verificarne l’adeguatezza con il mondo reale.
Per approfondire potete leggere il post sul blog di Google o direttamente lo studio.
