La comunità AI prova ad autoregolamentarsi

Quando si parla di governance dell’intelligenza artificiale gli approcci normativi sono spesso lenti ad emergere, non sempre catturano il centro della questione e sono – per forza di cose – sempre post facto.

Un anno fa l’importante conferenza sull’intelligenza artificiale NeurIPS ha introdotto il requisito per gli autori di inserire nelle loro ricerche una dichiarazione sull’impatto sociale dell’argomento o del sistema AI che vanno a presentare. Questo per cercare di sensibilizzare gli stessi sviluppatori di sistemi AI a prendere sempre in considerazione le implicazioni etiche, sociali, ambientali ed economiche delle loro scoperte o creazioni.

La proposta non è stata senza polemiche, segno che non vi è ancora un vero consenso in merito a iniziative del genere fra i ricercatori. Ora un gruppo indipendente ha deciso di svolgere uno studio sugli impatti derivanti da tali requisiti, esaminando pro e contro, e arrivando alla conclusione che condizioni del genere non sono perfette, ma rappresentano un buon punto di partenza per ulteriori iniziative di governance da parte della comunità AI.

Per approfondire: Institutionalizing Ethics in AI Through Broader Impact Requirements

Luca Sambucci lavora da oltre trent'anni nella cybersecurity, occupandosi oggi di sicurezza dell'intelligenza artificiale o AI Security. Ha collaborato come esperto con il Governo italiano, la Commissione europea, il Centro Comune di Ricerca e l'Agenzia Europea per la Difesa. È fondatore di Noctive Security, startup che sviluppa software automatizzati di red teaming per LLM e agenti AI. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.