Il gruppo di negoziatori del Parlamento europeo prosegue le discussioni per regolamentare i sistemi di intelligenza artificiale come ChatGPT. Il 17 aprile, i relatori ombra hanno discusso un nuovo testo di compromesso che, come il precedente, si concentra sull’intera catena del valore: include obblighi sia per i fornitori originali che per le altre parti. Tuttavia, a seguito delle discussioni in sede di riunione tecnica, il testo si concentra ora sui modelli fondazionali, che si distinguono dai modelli più semplici basati su quantità minori di dati.
Obblighi dei fornitori originali
La nuova bozza prevede che i fornitori di questi modelli garantiscano l’identificazione, la riduzione e l’attenuazione dei “rischi ragionevolmente prevedibili per la salute, la sicurezza, i diritti fondamentali, l’ambiente, la democrazia e lo Stato di diritto, con il coinvolgimento di esperti indipendenti”. Tra gli altri obblighi elencati nell’articolo 28b, essi devono
- basarsi solo su dati di qualità, garantendo la pertinenza delle fonti e l’identificazione delle distorsioni e prevedendo adeguate misure di mitigazione;
- predisporre una documentazione tecnica completa e fornire a terzi istruzioni comprensibili per l’uso;
- fornire un sistema di gestione della qualità per garantire, dimostrare ed eventualmente testare la conformità ai propri obblighi;
- registrare il proprio modello nel database dell’UE.
Più in generale, i fornitori di modelli fondazionali dovrebbero effettuare controlli durante tutta la vita del modello per conoscere i loro clienti commerciali (misure KYBC), attraverso un campionamento casuale e un adeguato monitoraggio degli incidenti pubblici.
Coinvolto anche il resto della supply chain
Le nuove proposte prevedono un trasferimento di responsabilità in tre casi: quando il terzo assegna un obiettivo ad alto rischio a un sistema che non era ad alto rischio, quando il terzo si appropria di un sistema ad alto rischio apponendovi il proprio nome o marchio o quando modifica in modo sostanziale un sistema ad alto rischio. In queste situazioni, ai sensi del regolamento il terzo diventa a sua volta un “fornitore”.
Tuttavia, il testo propone che il vecchio fornitore e il nuovo collaborino. Suggerisce che entrambe le parti concordino contrattualmente l’entità della capacità informativa, dell’accesso tecnico e dell’assistenza da fornire, anche se non elenca più in un allegato i dati precisi da fornire a titolo indicativo. A favore del fornitore originario, il testo aggiunge un riferimento alla tutela della riservatezza commerciale. Allo stesso tempo, incarica la Commissione di sviluppare clausole contrattuali standard e mantiene le disposizioni per proteggere le PMI e le start-up da clausole contrattuali inique imposte unilateralmente.
I correlatori consentono ai fornitori che offrono il loro servizio tramite un’API di rinunciare ai loro obblighi se forniscono tutti i dati in loro possesso, come il modello di formazione, le informazioni sui dataset e la procedura per lo sviluppo del sistema.
Il concetto di “addestramenti di grandi dimensioni”
Il nuovo testo introduce anche il concetto di “addestramenti di grandi dimensioni” (large training runs). Li definisce, senza ulteriori dettagli, come “procedure per produrre potenti modelli AI che richiedono risorse di calcolo oltre una soglia molto elevata”.
Una volta stabilito questo concetto, il testo incarica il futuro ufficio per l’AI di pubblicare e aggiornare periodicamente le linee guida su queste soglie e di monitorare le istanze che le utilizzano. L’ufficio dovrà inoltre pubblicare un rapporto annuale sullo stato dello sviluppo, della crescita e dell’uso dei modelli fondazionali, con opzioni politiche per affrontare i rischi e le opportunità. Sarà inoltre responsabile della conduzione di un dialogo regolare con i fornitori di tali modelli, al quale potranno partecipare le autorità nazionali di vigilanza, gli organismi notificati e le autorità di vigilanza del mercato.
