La pandemia non ha solo accelerato la digitalizzazione, ma anche incoraggiato, come in tutti i periodi di forte crisi, lo sviluppo e la ricerca scientifica, in special maniera nel campo della salute, diventata giustamente, punto ed obiettivo nevralgico di imprese, comunità scientifiche e governi di tutto il mondo.
Il Center for Devices and Radiological Health (CDRH) della FDA statunitense, a inizio di quest’anno, ha emesso un documento, “Intelligenza artificiale/apprendimento automatico (AI/ML) — Piano d’azione basato sul software come dispositivo medico (SaMD)”, con il quale presenta nuove funzionalità nel ciclo di vita dei prodotti che utilizzano strumenti di IA, per migliorare l’assistenza sanitaria e l’efficienza operativa degli stessi. Ad aprile 2019 era stata aperta una discussione in merito all’argomento che trova riscontro proprio in questo “paper”, datato Gennaio 2021.
Questi lavori fanno parte di una azione che si svolgerà in cinque fasi, da parte della Food and Drug Administration, e che parte dall’analisi dei SaMD (Software as a Medical Device), ma che punta all’implementazione anche dei SiMD (Software in a Medical Device).
Si legge nel paper: «Come parte di questo quadro proposto, la FDA …ha espresso un’aspettativa di trasparenza e monitoraggio delle prestazioni nel mondo reale, da parte dei produttori, che potrebbe consentire alla FDA e ai produttori di valutare e monitorare un prodotto software dal suo sviluppo pre-mercato fino alle prestazioni post-vendita». E inoltre: «Il 7 febbraio 2020, la FDA ha annunciato la sua autorizzazione all’immissione in commercio, attraverso il percorso De Novo (la classificazione De Novo è un processo di classificazione basato sul rischio), del primo software per ecografia cardiaca (il software, denominato Caption Guidance, è un accessorio dei sistemi diagnostici ecografici compatibili e utilizza l’intelligenza artificiale per aiutare l’utente a catturare immagini del cuore di un paziente di qualità diagnostica accettabile) che utilizza l’intelligenza artificiale per guidare gli utenti. Questo dispositivo rivoluzionario è degno di nota non solo per la sua destinazione d’uso pionieristica, ma anche per l’utilizzo da parte del produttore di un piano di controllo delle modifiche predeterminato per incorporare modifiche future».
Secondo i Centers for Disease Control and Prevention, le malattie cardiache sono la principale causa di morte negli Stati Uniti, uccidendo una persona su quattro, ovvero circa 647.000 americani ogni anno.
Il piano di azione che la FDA si prefigge si compone di cinque fasi, che nel documento sono accuratamente spiegate.
1. Un framework normativo per SaMD basato su AI/ML: le pre-specifiche SaMD (SPS — SaMD Pre-Specifications) descrivono “quali” aspetti il produttore intende modificare attraverso l’apprendimento, mentre l’Algorithm Change Protocol (ACP) spiega “come” l’algoritmo apprenderà e cambierà, pur rimanendo sicuro ed efficace.
2. Buone pratiche di apprendimento automatico (GMLP — Good Machine Learning Practice): si intendono gestione dei dati, estrazione di funzionalità, formazione, interpretabilità, valutazione e documentazione, che sono simili a buone pratiche di ingegneria del software o pratiche di sistema di qualità. Lo sviluppo e l’adozione di queste pratiche è importante non solo per guidare l’industria e lo sviluppo del prodotto, ma anche per facilitare la supervisione di questi prodotti complessi, attraverso l’adesione del produttore a best practice e/o standard ben consolidati.
3. Approccio centrato sul paziente che incorpora la trasparenza per gli utenti: l’Agenzia riconosce che i dispositivi basati su AI/ML hanno considerazioni uniche che richiedono un approccio proattivo incentrato sul paziente, per il loro sviluppo e utilizzo, che tenga conto di questioni quali usabilità, equità, fiducia e responsabilità. La promozione della trasparenza è un aspetto chiave di un approccio incentrato sul paziente, particolarmente importante per i dispositivi medici basati su AI/ML, che possono apprendere e cambiare nel tempo e che possono incorporare algoritmi che mostrano un certo grado di opacità. Numerose parti interessate hanno evidenziato le sfide uniche dell’etichettatura per i dispositivi basati su AI/ML e la necessità per i produttori di descrivere chiaramente i dati che sono stati utilizzati per addestrare l’algoritmo, la rilevanza dei suoi input, la logica che impiega (quando possibile), il ruolo che intende svolgere dal suo output e le prove delle prestazioni del dispositivo. «L’Agenzia si impegna a supportare un approccio incentrato sul paziente, compresa la necessità di trasparenza da parte del produttore per gli utenti sul funzionamento dei dispositivi basati su AI/ML per garantire che gli utenti comprendano i vantaggi, i rischi e i limiti di questi dispositivi. A tal fine, nell’ottobre 2020, l’Agenzia ha tenuto una riunione del Comitato consultivo per il coinvolgimento dei pazienti (PEAC Patient Engagement Advisory Committee) dedicata ai dispositivi basati su AI/ML al fine di ottenere informazioni dai pazienti su quali fattori influenzano la loro fiducia in queste tecnologie.»
4. Metodi scientifici di regolamentazione relativi al bias e alla robustezza degli algoritmi, a sostegno degli sforzi della scienza per sviluppare metodologie per la valutazione e il miglioramento degli algoritmi di apprendimento automatico, anche per l’identificazione e l’eliminazione dei bias, e per la valutazione e la promozione della robustezza degli algoritmi. «È noto che l’erogazione dell’assistenza sanitaria varia in base a fattori quali razza, etnia e stato socio-economico; pertanto, è possibile che i pregiudizi presenti nel nostro sistema sanitario possano essere introdotti inavvertitamente negli algoritmi. L’Agenzia riconosce l’importanza cruciale che i dispositivi medici siano adatti a una popolazione di pazienti di destinazione diversificata dal punto di vista razziale ed etnico e la necessità di metodologie migliorate per l’identificazione e il miglioramento degli algoritmi di apprendimento automatico.»
5. Prestazioni nel mondo reale (RWP Real-World Performance): la raccolta di dati sulle prestazioni reali del SaMD può consentire ai produttori di comprendere come vengono utilizzati i loro prodotti, identificare opportunità di miglioramento e rispondere in modo proattivo a problemi di sicurezza o usabilità, mitigando, così, il rischio associato alle modifiche SaMD. Pertanto si farà uso e si sosterrà la sperimentazione del monitoraggio delle prestazioni nel mondo reale, collaborando con le parti interessate su base volontaria.
Il continuo coinvolgimento delle parti interessate sarà cruciale per il successo di questo lavoro, che sarà coordinato dal Digital Health Center of Excellence.
Qui il documento https://www.fda.gov/media/145022/download
Riproduzione Riservata
Avv. Raffaella Aghemo
