Framework Bayesiani come soluzione ai problemi di classificazione adversarial

Bayes

Per classificazione antagonista (adversarial classification) si intendono quei problemi dove una parte tenta di eludere la corretta classificazione a opera di un’altra parte, ad esempio un malware per PC che cerca di passare come innocuo agli occhi del software di sicurezza. Visto il crescente utilizzo di tecniche di machine learning all’interno della cybersecurity – sia per realizzare attacchi sia per erigere sistemi di difesa – anche la classificazione antagonista sta assumendo un’importanza sempre maggiore nell’industria.

Uno studio (pdf) pubblicato pochi giorni fa da cinque matematici, fra cui lo spagnolo David Ríos Insua e il Dirigente di Ricerca del CNR-IMATI Fabrizio Ruggeri, propone l’utilizzo di un framework propabilistico Bayesiano per ovviare alle lacune degli attuali metodi basati per lo più sulla teoria dei giochi.

Per accedere alla ricerca: Protecting Classifiers From Attacks A Bayesian Approach

Luca Sambucci lavora da oltre trent'anni nella cybersecurity, occupandosi oggi di sicurezza dell'intelligenza artificiale o AI Security. Ha collaborato come esperto con il Governo italiano, la Commissione europea, il Centro Comune di Ricerca e l'Agenzia Europea per la Difesa. È fondatore di Noctive Security, startup che sviluppa software automatizzati di red teaming per LLM e agenti AI. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.