Dilemma del carrello: la risposta cambia a seconda del Paese

Il “dilemma del carrello ferroviario” viene spesso proposto quando si parla di etica, AI e auto a guida autonoma: se costretta dagli eventi (ad es. trovandosi in mezzo a un incidente) come fa un’auto a guida autonoma a decidere quale vita salvare? Se ha solo due possibilità, svoltare e uccidere una vecchietta o continuare e uccidere un bambino, quale decisione prende?

E se su una strada di montagna l’auto a guida autonoma dopo una curva si trovasse improvvisamente di fronte un gruppo di ciclisti e i freni non rispondessero ai comandi, l’auto continuerebbe il suo percorso investendo e uccidendo i ciclisti, oppure svolterebbe e si getterebbe giù dalla montagna, uccidendo gli occupanti?

È difficile programmare una risposta, soprattutto se anche noi umani offriamo soluzioni differenti a seconda del Paese in cui siamo cresciuti. Ricercatori del MIT Media Lab hanno posto queste domande online, raccogliendo in quattro anni milioni risposte da ogni Paese del mondo e pubblicando uno studio su Nature.

Per continuare l’esempio del bambino e della vecchietta, partecipanti da Paesi “collettivisti” come Cina e Giappone sono meno propensi a salvare il bambino se confrontati con partecipanti da altre parti del mondo, forse perché in quelle società le persone anziane godono di un rispetto maggiore.

Chi proviene da Paesi più individualisti risparmierebbe il bambino, mentre chi risponde da Paesi meno individualisti è più propenso a risparmiare la vecchietta.
Dallo studio: chi proviene da Paesi più individualisti risparmierebbe il bambino, mentre chi risponde da Paesi meno individualisti è più propenso a risparmiare la vecchietta.

Questi e altri esempi possono essere esaminati nello studio, che però su Nature è disponibile solo dietro abbonamento. Fortunatamente questo articolo pubblicato da MIT Technology Review su Medium offre un buon riassunto.

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.