Il denoised smoothing aumenta la robustezza delle reti neurali

Avrete visto in passato esempi di come un classificatore di immagini, con solo pochi pixel di disturbo, possa essere indotto a scambiare un oggetto per un altro completamente diverso. In questo esempio l’immagine di una tartaruga viene scambiata per un fucile.

Attacco adversarial su tarrtaruga

(se vi interessa trovate molti altri esempi in questa presentazione)

Una delle soluzioni maggiormente utilizzate è sottoporre il classificatore a un nuovo round di addestramento specifico per aumentarne la robustezza. Ora però Microsoft Research ha pubblicato una ricerca che introduce una tecnica chiamata denoised smoothing, per migliorare la robustezza dei classificatori contro gli attacchi adversarial fin dall’inizio.

Questo approccio, scalabile anche su reti e dataset di grandi dimensioni, stabilizza una funzione aiutando a garantire che le previsioni per gli input nelle vicinanze di uno specifico data point siano costanti.

Il risultato garantisce che un classificatore esca dal training iniziale con una robustezza implicita, rendendolo meno suscettibile ad attacchi adversarial e quindi più sicuro.

Per approfondire la tecnica: Denoised smoothing: Provably defending pretrained classifiers against adversarial examples

Sono partner e fondatore di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti l'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI), della Association for Computing Machinery (ACM) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.