L’AI sta imparando a manipolare gli esseri umani

Uno studio del CSIRO, l’agenzia nazionale australiana per la scienza, ha dimostrato come l’intelligenza artificiale può individuare le vulnerabilità nel comportamento degli esseri umani e sfruttarle per manipolare il processo decisionale umano.

Il sistema utilizza un mix di reti neurali ricorrenti e apprendimento di rinforzo ed è stato utilizzato in tre test separati, risultando capace di influenzare i soggetti umani in ogni test con diversi tassi di successo. I risultati sono ancora piuttosto astratti, dato che questi test riflettono solo marginalmente situazioni reali, ma sottolineano la necessità di una supervisione etica e di principi comuni per la tecnologia, specialmente nei sistemi AI che supportano il processo decisionale umano.

Per approfondire: AI can now learn to manipulate human behaviour

Mi occupo da molti anni di intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, lavorando con un'azienda leader del settore e partecipando a iniziative della Commissione Europea. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.