Chi controlla gli algoritmi? L’esempio francese

Francia

Come è possibile regolamentare le piattaforme digitali senza essere in grado di valutare i loro algoritmi di raccomandazione e di decisione? Come garantire che un motore di ricerca o un marketplace non abusino della loro posizione dominante, senza poter realisticamente controllare tutti i risultati prodotti dai loro modelli di intelligenza artificiale? Come si fa a esser sicuri che questi siti rispettino le leggi in vigore?

Se lo chiedono molti Paesi, ma in Francia hanno provato a dare una risposta istituendo il PEReN, Pôle d’Expertise et de Régulation Numérique (polo di competenza e regolamentazione digitale), presso il Ministero dell’Economia con la collaborazione dei ministeri della Cultura e del Digitale.

Sette esperti (ma diventeranno venti entro fine anno) che dovranno vedersela con gli imperscrutabili modelli di Google, Amazon, Facebook, Twitter, Apple, ecc per capire se violano la legge.

Le fonti per approfondire sono tutte in francese (non ho visto traccia di questa notizia in Italia): Le Monde (metà articolo è dietro paywall), ZDNet, CIO.

Sono Head of Artificial Intelligence di SNGLR Holding AG, un gruppo svizzero specializzato in tecnologie esponenziali con sedi in Europa, USA e UAE, dove curo i programmi inerenti all'intelligenza artificiale. Dopo la laurea in Management ho conseguito una specializzazione in Business Analytics a Wharton, una certificazione Artificial Intelligence Professional da IBM e una sul machine learning da Google Cloud. Ho trascorso la maggior parte della carriera – trent'anni - nel settore della cybersecurity, dove fra le altre cose sono stato consigliere del Ministro delle Comunicazioni e consulente di Telespazio (gruppo Leonardo). Oggi mi occupo prevalentemente di intelligenza artificiale, con consulenze sull'AI presso aziende private e per la Commissione Europea, dove collaboro con la European Defence Agency e il Joint Research Centre. Questo blog è personale.