Un modello di machine learning per scovare le fake news

AI bias

In un semplice esperimento un modello di machine learning è stato usato per distinguere le notizie vere da quelle false, banalmente analizzando i titoli degli articoli e classificandoli come veri o fake news.

Uno studente ha raccolto 24.000 titoli fra notizie reali e notizie pubblicate dalla rivista satirica “The Onion” (quindi false) per creare il dataset. In un piccolissimo test (assolutamente non rappresentativo) un gruppo di lettori in carne e ossa ha ottenuto risultati decisamente poco lusinghieri dalla disamina dei titoli, riuscendo a distinguere le notizie vere da quelle false solo nel 50% dei casi (il che spiega perché le fake news vadano così forte).

Il modello di machine learning invece è riuscito nell’intento con un’accuratezza dell’83%, meglio degli esseri umani anche se molto lontano dalla perfezione. La parte interessante tuttavia è che lo studente ha annotato ogni passo del suo esperimento, dalla creazione del dataset all’addestramento del modello, con tanto di codice Python utilizzato.

Per saperne di più: Using Machine Learning to Distinguish BetweenWhat’s Real and What Is Not

Luca Sambucci lavora da oltre trent'anni nella cybersecurity, occupandosi oggi di sicurezza dell'intelligenza artificiale o AI Security. Ha collaborato come esperto con il Governo italiano, la Commissione europea, il Centro Comune di Ricerca e l'Agenzia Europea per la Difesa. È fondatore di Noctive Security, startup che sviluppa software automatizzati di red teaming per LLM e agenti AI. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.