Il bot Covid-19 dei CDC è una delusione artificiale

Workflow

I Centers for Disease Control and Prevention (CDC), l’organismo di controllo sulla sanità pubblica degli Stati Uniti, hanno rilasciato un nuovo bot di autodiagnosi per i cittadini che temono di aver contratto il Coronavirus. Il bot consente a chi si collega al sito apposito di rispondere ad alcune domande di natura medica e ottenere risposte su cosa fare.

Memore della recente esperienza italiana con il chatbot di Kinoa ho deciso di testare il bot a stelle e strisce per verificarne l’effettiva utilità e comprendere come funziona l’intelligenza artificiale sottostante.

Dopo qualche clic però sono stato sorpreso nel constatare come la tecnologia messa a disposizione non sia davvero AI bensì un semplice questionario per lo più a risposta singola. Dopo alcune domande sulla persona (inclusa l’area di provenienza, dove è necessario rispondere con una piccola bugia affermando che si risiede negli Stati Uniti) si passa a domande sui sintomi. Il primo elenco comprende una serie di situazioni che indicherebbero una situazione grave, come mancanza d’aria, labbra blu, stato confusionale, ecc. Ogni singola risposta rimanda allo stesso risultato: il bot consiglia di chiamare il 911 (il numero di emergenza) e la chiude lì.

In una delle mie prove il bot ha prima chiesto se stessi rispondendo per me o per qualcun altro, e quando ho indicato che stavo rispondendo per me ha chiesto – fra i vari sintomi – se per caso fossi privo di coscienza. Ho risposto di sì (ovviamente) e mi ha sollecitato a prendere subito il telefono e chiamare il numero delle emergenze.

Se invece si informa il bot di non soffrire di sintomi che mettano a rischio la propria vita, il sistema prosegue elencando una piccola serie di sintomi mediamente seri come giramenti di testa o moderate difficoltà a respirare, che se selezionati rimandano a una risposta standard che consigla di recarsi presso un pronto soccorso.

In un altro caso ho dichiarato di essere un bambino nella fascia di età di 2 ai 4 anni e di stare rispondendo da solo. In quel caso, anche in assenza di sintomi (ho risposto “no” a tutto) ha concluso esortandomi ad andare immediatamente presso un pronto soccorso.

I casi meno preoccupanti ricevono risposte come restare a casa oppure, se si è in una casa di cura, informare il personale dei propri sintomi. In nessuno dei passaggi vi è mai stata la possibilità di formulare domande o di inserire risposte complesse, come ormai ci hanno abituato i chatbot anche mediamente sofisticati.

Sorprende nel 2020 di dover avere a che fare con sistemi informatici così poco avanzati, soprattutto se gestiti da un organismo che è comunque un punto di riferimento mondiale e che per questo progetto vanta una partnership con Microsoft Azure (che a questo punto credo abbia fornito solo le risorse Cloud per far girare il software). È vero che offrire un servizio di autodiagnosi porta con sé responsabilità enormi, e che quindi si è voluta evitare qualsiasi possibilità di malinteso ingabbiando la discussione in percorsi prestabiliti in una sorta di “sistema esperto”. Credo però che con le innovazioni degli ultimi anni, e con un partner come Microsoft al proprio fianco, i CDC avrebbero potuto osare di più in tutta sicurezza.

Se volete provarlo, il bot è disponibile qui: Testing for COVID-19

Mi occupo da molti anni di intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.