Per mesi gli agenti di intelligenza artificiale hanno dimostrato di saper aggirare i controlli e uscire dagli ambienti di prova in cui erano confinati. Nvidia ora propone la propria risposta. Lunedì Jensen Huang ha presentato la Open Agent Safety Platform, un insieme di software e hardware pensato per tenere sotto controllo gli agenti anche quando tentano di oltrepassare i confini assegnati. Si tratta di una mossa tecnica, ma anche di una netta presa di posizione nel dibattito su come governare sistemi di questo tipo.
Il contesto è ormai noto. Modelli di Anthropic, Google, OpenAI e Meta hanno eluso le protezioni dei propri ambienti di test, arrivando a toccare sistemi reali. Il caso più discusso risale a quest’estate, quando alcuni agenti di OpenAI, impegnati in un compito di cybersicurezza, hanno violato Hugging Face. Episodi più recenti hanno coinvolto siti governativi statunitensi e australiani, e OpenAI ha perfino aperto un sito dedicato alle segnalazioni dei propri agenti fuori controllo.
La piattaforma unisce due componenti. OpenShell, annunciato a marzo e ora disponibile per tutti, è un software open source che delimita ciò a cui un agente può accedere, isolandone l’attività nel kernel, il nucleo del sistema operativo. Sentry è invece un sistema di monitoraggio indipendente che gira sui processori BlueField-4, separati dalle CPU e dalle GPU su cui lavora l’agente. Proprio grazie a tale separazione può osservarne il comportamento e, secondo Nvidia, metterlo in quarantena in pochi millisecondi se prova a uscire dal perimetro. Huang ha riassunto la filosofia della piattaforma spiegando che a un agente, per quanto intelligente, si tolgono anzitutto tutti i permessi.
Decine di aziende hanno aderito, tra cui Anthropic, Microsoft, Oracle, Arm, CrowdStrike e SpaceX, anche se non è chiaro quante adottino davvero la piattaforma. Colpisce l’assenza di OpenAI dall’elenco ufficiale, su cui entrambe le società evitano commenti. Nvidia, che nelle ultime settimane ha concordato l’acquisizione di Hugging Face per 12,9 miliardi di dollari, lavora inoltre con Arm e Intel per portare Sentry anche sull’architettura x86.
La posizione di Nvidia è chiara. L’azienda si oppone a rallentamenti dello sviluppo e a nuove regole, e considera la sicurezza un problema di ingegneria. Una tesi condivisa da David Sacks, secondo cui le recenti fughe dimostrano soltanto che le sandbox, cioè gli ambienti isolati in cui gli agenti vengono messi alla prova, erano troppo deboli. L’idea di un controllore esterno e indipendente regge, perché sposta la fiducia dall’agente all’architettura che lo ospita. C’è però anche una dimensione strategica da non trascurare, perché chi definisce gli standard di sicurezza finisce per orientare il mercato, e in questo modo Nvidia rafforza il proprio ecosistema di chip. La verifica più dura arriverà con la scala, quando a dover essere governate saranno intere flotte di agenti che richiedono politiche collettive. Lì si capirà se basta costruire gabbie migliori o se, come appare probabile, servirà un modello a strati in cui ingegneria, verifiche indipendenti e regole convivono invece di escludersi. E resterà da chiedersi chi controlla il guardiano, quando il guardiano è anche chi vende i chip.
Per approfondire: link all’articolo originale
