L’AI sta imparando a manipolare gli esseri umani

Uno studio del CSIRO, l’agenzia nazionale australiana per la scienza, ha dimostrato come l’intelligenza artificiale può individuare le vulnerabilità nel comportamento degli esseri umani e sfruttarle per manipolare il processo decisionale umano.

Il sistema utilizza un mix di reti neurali ricorrenti e apprendimento di rinforzo ed è stato utilizzato in tre test separati, risultando capace di influenzare i soggetti umani in ogni test con diversi tassi di successo. I risultati sono ancora piuttosto astratti, dato che questi test riflettono solo marginalmente situazioni reali, ma sottolineano la necessità di una supervisione etica e di principi comuni per la tecnologia, specialmente nei sistemi AI che supportano il processo decisionale umano.

Per approfondire: AI can now learn to manipulate human behaviour

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.