Un modello linguistico che chiunque può scaricare, far girare a costi contenuti e che di rado rifiuta una richiesta. È il ritratto di GLM-5.3, sviluppato dalla cinese Zhipu, oggi nota come Z.ai, tracciato da Anthropic in un’analisi secondo cui è stata superata una soglia rilevante, quella delle capacità autonome nella sicurezza informatica offensiva.
Secondo Anthropic, GLM-5.3 è riuscito a produrre 50 exploit completi su 410 tentativi nel banco di prova ExploitBench dedicato a V8. Per exploit si intende un attacco funzionante che sfrutta una vulnerabilità dall’inizio alla fine. V8 è invece il motore che esegue il codice JavaScript in Chrome e in molti altri software, uno dei bersagli più studiati e protetti dell’intero ecosistema digitale. Un tasso di successo intorno al 12% può sembrare modesto, ma in un campo simile anche un solo attacco riuscito ha un valore enorme.
Il secondo dato riguarda i test interni di Anthropic sullo sfruttamento di programmi compilati, dove il modello ha ottenuto il dirottamento completo del flusso di controllo nel 4% dei compiti. In parole semplici, è riuscito a decidere quali istruzioni un programma esegue, presupposto necessario per prenderne il comando. Numeri piccoli, certo, ma raggiunti in autonomia da un sistema che non richiede competenze specialistiche per essere utilizzato.
Le prestazioni, però, sono solo una parte del quadro. Anthropic descrive il rischio come la somma di capacità e accessibilità. GLM-5.3 è un modello open-weight, i cui parametri sono pubblici e possono girare su infrastrutture proprie, fuori da qualsiasi controllo del produttore. È molto diffuso, relativamente economico e ha un addestramento al rifiuto piuttosto debole, il che significa che tende a non opporsi a richieste potenzialmente dannose.
Va ricordato che l’allarme arriva da un’azienda che sviluppa modelli chiusi e che ha quindi un interesse diretto nel dibattito. I dati, tuttavia, descrivono una traiettoria difficile da ignorare. Capacità che fino a poco tempo fa appartenevano soltanto ai sistemi più avanzati raggiungono i modelli aperti in tempi sempre più brevi, e la strategia di limitare l’accesso perde di conseguenza efficacia. Ma lo stesso strumento che arma chi attacca può servire anche a chi difende, accelerando la ricerca delle vulnerabilità prima che vengano scoperte da altri. Se il controllo sugli strumenti non è più una garanzia, a fare la differenza sarà il ritmo, perché chi corregge le falle dovrà automatizzare il proprio lavoro almeno quanto chi le sfrutta.
Per approfondire: link all’articolo originale
