Machine learning causale per migliorare i modelli decisionali

Qualche giorno fa i ricercatori di Microsoft Research hanno pubblicato due articoli che propongono di sfruttare le GAN, reti generative avversarie, che finora avevano fatto parlare di sé per la generazione di volti di persone inesistenti, per scoprire relazioni causali nei set di dati.

Come spiegano i ricercatori, i modelli di machine learning usati finora erano stati pensati per task di un certo tipo, ad esempio classificare immagini, prevedere la prossima parola in un testo, o prevedere il prossimo frame in un video. Per compiti avanzati, come sarebbe il proporre agli utenti la decisione migliore a un dato problema (pensiamo agli algoritmi usati negli ospedali per proporre trattamenti sanitari), tali modelli potrebbero non essere sempre i più adeguati. Ecco perché un modello ML che scopra le relazioni causali fra i dati (i ricercatori parlano proprio di causal machine learning) potrebbe essere il più indicato per task più avanzati.

Per approfondire consiglio il post sul blog di Microsoft Research: Adversarial machine learning and instrumental variables for flexible causal modeling

Microsoft Research non è nuova a questo campo di ricerca. Per approfondire ulteriormente suggerisco di studiare anche la libreria DoWhy e le risorse collegate: DoWhy: Causal Reasoning for Designing and Evaluating Interventions

Luca Sambucci lavora da oltre trent'anni nella cybersecurity, occupandosi oggi di sicurezza dell'intelligenza artificiale o AI Security. Ha collaborato come esperto con il Governo italiano, la Commissione europea, il Centro Comune di Ricerca e l'Agenzia Europea per la Difesa. È fondatore di Noctive Security, startup che sviluppa software automatizzati di red teaming per LLM e agenti AI. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.