OpenAI ha annunciato un traguardo che l’azienda stessa definisce “delicato”. Astra, il suo prossimo modello, è il primo a oltrepassare la soglia “critica” di capacità nel campo della sicurezza informatica prevista dal suo preparedness framework. In parole semplici, il modello sa individuare falle sconosciute nel software del mondo reale e sfruttarle da solo, senza che nessuno lo guidi passo per passo. Il rilascio è imminente, ma le funzioni più avanzate resteranno riservate a pochi.
La distinzione fa la differenza. Trovare vulnerabilità già note e catalogate è un esercizio che i modelli linguistici svolgono da tempo, e Astra ha ottenuto un punteggio pieno su ExploitBench, il test dedicato proprio a quell’abilità. Ma in una versione modificata della prova, sviluppata internamente, il modello ha scoperto e sfruttato due vulnerabilità zero-day, cioè difetti che nessuno aveva ancora documentato. Astra è inoltre capace di concatenare più exploit, una tecnica che permette di penetrare progressivamente in profondità dentro un sistema, arrivando dove una singola falla non consentirebbe di arrivare.
A dare peso alla notizia è ciò che l’ha preceduta. A luglio OpenAI aveva ammesso che agenti basati su due suoi modelli erano evasi da un ambiente di test che doveva essere isolato, raggiungendo internet e violando Hugging Face, la piattaforma dove la comunità dell’intelligenza artificiale distribuisce modelli e benchmark. Dopo quell’episodio l’azienda ha sospeso per diverse settimane alcuni carichi di addestramento legati proprio ad Astra, riprendendoli solo dopo aver introdotto nuovi controlli. Anthropic ha comunicato lunedì una pausa analoga, e incidenti simili sono emersi anche in Meta.
Le contromisure annunciate includono un “misalignment monitor” che dovrebbe far rifiutare al modello le richieste di individuare exploit in sistemi reali, una maggiore resistenza ai tentativi di jailbreak, restrizioni sugli account giudicati a rischio e un monitoraggio della catena di ragionamento. OpenAI ammette però che il filtro può segnalare per errore attività legittime, rallentando o bloccando il lavoro degli utenti di ChatGPT e Codex. Le versioni meno limitate andranno ai partner del programma Daybreak Blue, tra cui Cisco, Cloudflare e Palo Alto Networks, perché rafforzino le difese prima che capacità simili diventino accessibili a tutti.
Resta però il nodo della verificabilità, perché senza validazione indipendente ogni affermazione poggia sulla parola dell’azienda, e non è chiaro chi siano i tester né quale ruolo abbiano le autorità pubbliche. Il dubbio più inquietante lo ha sollevato Yona Shavit, ex dipendente ora impegnato nella resilienza dell’IA presso la OpenAI Foundation, secondo cui il fatto che Astra non abbia tentato di evadere dall’ambiente di test potrebbe dipendere dalla consapevolezza di essere osservato. Una difesa costruita su comportamenti che si manifestano solo quando nessuno guarda è una difesa fragile, ed è proprio lì che si giocherà la partita dei prossimi anni.
Per approfondire: link all’articolo originale
