In Sud Africa l’AI “senza etica” favorisce la discriminazione razziale

Per avere un esempio concreto di cosa significhi non badare all’etica nell’implementazione dell’AI, Vice propone una panoramica della sorveglianza cittadina in Sud Africa.

A Johannesburg già da diversi anni hanno fatto la loro comparsa telecamere a circuito chiuso per monitorare la sicurezza delle strade. Da qualche tempo questi servizi si sono evoluti in “smart surveillance“, dove algoritmi di machine learning aiutano a riconoscere e segnalare situazioni “sospette”.

Per fare un esempio, in un ricco quartiere abitato soprattutto da bianchi qualche anno fa il software ha segnalato automaticamente 14 situazioni sospette (qui il rapporto in pdf) che coinvolgevano in tutto 28 persone. Fra cui: un elettricista che si allontana dal luogo di lavoro, cinque persone che camminano insieme, una persona che cammina sul marciapiede indossando una maglietta a righe, una persona che siede per strada, una persona che cammina con un borsone, due postini che consegnano pacchi.

Atteggiamenti tutto sommato innocui. L’unica caratteristica in comune è che tutte le persone avevano la pelle nera. Quel giorno nessun bianco è stato segnalato come sospetto dall’algoritmo.

Per approfondire: Smart CCTV Networks Are Driving an AI-Powered Apartheid in South Africa

Mi sono appassionato all'intelligenza artificiale da quando ho potuto vedere all'opera i primi sistemi esperti negli anni '80. Già dal 1989 mi occupavo di cybersecurity (analizzando i primi virus informatici) ma non ho mai smesso di seguire gli sviluppi dell'AI. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Sono socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Dal 2002 al 2005 ho servito il Governo Italiano come advisor del Ministro delle Comunicazioni sui temi di cyber security. Oggi partecipo ai lavori della European AI Alliance della Commissione Europea e a workshop tematici della European Defence Agency e del Joint Research Centre. Questo blog è personale.