Facebook si è dotato di un read team per aggirare i suoi stessi sistemi AI

Già in passato ho apprezzato l’adozione nel settore dell’intelligenza artificiale di alcuni sistemi e metodi mutuati dal mondo della cybersecurity. Uno di questi consiste nel creare al proprio interno una squadra avversaria – che operi con logiche e modi tipici di un nemico – per cercare di “rompere” i prodotti o i servizi messi su dall’azienda. Ovviamente in un ambiente controllato.

Questo metodo si chiama genericamente “red team“, dal colore usato dalla squadra di attaccanti nelle varie simulazioni militari (per contro, la squadra dei difensori di solito è il “blue team”). Wired questa settimana ha un’interessante storia sul “red team” di Facebook per l’intelligenza artificiale, dove una squadra di esperti di adversarial AI cerca in tutti i modi di vincere sugli algoritmi di moderazione della piattaforma social (il team si concentra molto sui filtri anti-pornografia di Instagram che a quanto pare molti utenti fanno di tutto per aggirare).

Il lavoro del red team di Facebook, in particolare le loro vittorie, fornisce così informazioni utili al “blue team” per migliorare le difese della piattaforma.

Per approfondire: Facebook’s ‘Red Team’ Hacks Its Own AI Programs

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.