Un laboratorio che decide di finanziare il disaccordo invece di ricomporlo è una notizia in sé. Google DeepMind ha annunciato la nascita del DeepMind Institute, struttura pensata per allargare e rendere più concreto il dibattito sull’intelligenza artificiale generale, quella capacità ipotetica di una macchina di eguagliare o superare l’essere umano nella generalità dei compiti cognitivi. Alla guida figurano il cofondatore Shane Legg, nel ruolo di direttore editoriale, insieme al dirigente di Google James Manyika e al presidente di Google DeepMind Demis Hassabis. L’obiettivo dichiarato è insolito per un laboratorio industriale, perché punta a far emergere le divergenze di opinione, non ad appianarle.
La prima raccolta comprende quattro saggi che affrontano le politiche economiche necessarie a gestire un’eventuale ondata di trasformazioni occupazionali, la conservazione di un ragionamento leggibile dagli esseri umani all’interno dei modelli, i principi per la prosperità umana e un quadro di valutazione dei sistemi di frontiera. Il testo firmato dai ricercatori di sicurezza Rohin Shah e Anca Dragan è forse il più tecnico e il più inquietante, perché sostiene che la finestra di trasparenza sui modelli, cioè la possibilità di leggere i passaggi intermedi del loro ragionamento, si sta restringendo, pur non trattandosi di un esito inevitabile. Tra le opzioni proposte c’è limitare la quantità di calcolo sequenziale che un modello può svolgere senza produrre una traccia comprensibile, oppure imporre agli sviluppatori di dimostrare che sistemi meno trasparenti restano comunque sorvegliabili.
Hassabis avanza invece una proposta di governance, ovvero un ente statunitense per gli standard sull’intelligenza artificiale di frontiera, al quale i laboratori sottoporrebbero volontariamente i propri modelli fino a trenta giorni prima del rilascio. Una volta dimostrata l’efficacia del meccanismo, il superamento dei test potrebbe diventare condizione obbligatoria per il rilascio commerciale negli Stati Uniti. Le prove sarebbero inizialmente progettate insieme alle aziende, ma evolverebbero verso valutazioni indipendenti e non divulgate, così da impedire ai laboratori di ottimizzare i modelli sugli esami già noti.
Il dettaglio più rilevante è l’ammissione che il sistema potrebbe essere irrigidito qualora la gravità della situazione lo richiedesse, fino a un rallentamento coordinato tra gli sviluppatori. Una posizione che converge con l’invito di Dario Amodei di Anthropic a moderare il ritmo dello sviluppo, sostenuto in questi giorni da diversi protagonisti del settore.
Il passaggio da dichiarazioni di principio a proposte operative su verifica esterna e trasparenza segna una maturazione del dibattito, ma lascia aperto un interrogativo legittimo, perché chi scrive le regole è lo stesso soggetto che le dovrà rispettare. Un istituto che invita al dissenso resta un segnale apprezzabile, a patto che il dissenso arrivi davvero anche da fuori e che qualcuno, dentro, sia disposto ad ascoltarlo quando costa qualcosa.
Per approfondire: link all’articolo originale
