Cosa accade davvero nella ‘testa’ di un modello linguistico mentre elabora una risposta? È una delle domande più affascinanti e inquietanti dell’intelligenza artificiale contemporanea, e Anthropic sembra aver fatto un passo concreto verso una risposta. La società ha appena presentato una nuova tecnica che permette di sbirciare più a fondo che mai nei meccanismi interni di Claude, il suo modello di punta, rivelando uno spazio nascosto in cui l’IA sembra rimuginare sui concetti prima ancora di esprimerli.
Lo strumento, battezzato Jacobian lens o J-lens, funziona come una sorta di lente d’ingrandimento capace di scandagliare gli strati intermedi di Claude Opus 4.6, la versione rilasciata a febbraio 2026. Immaginiamo un grande modello linguistico come una pila di libri, dove gli strati inferiori ricevono il testo in ingresso e quelli superiori preparano la risposta, mentre è nel mezzo che avviene la vera magia matematica. È lì che il J-lens individua un’area, denominata J-space, in cui compaiono parole collegate a ciò che il modello dirà nel prossimo futuro, non necessariamente nella parola immediatamente successiva.
La differenza rispetto agli strumenti precedenti, come il logit lens, è netta. Mentre quest’ultimo mostra la prossima parola più probabile, il J-lens rivela concetti latenti, associazioni che affiorano durante l’elaborazione ma che potrebbero non arrivare mai all’output finale. Negli esempi mostrati da Anthropic, quando a Claude viene chiesto di calcolare un’espressione aritmetica, nel suo J-space compaiono i risultati intermedi. Quando riceve una sequenza di aminoacidi, emergono parole come ‘proteina’ e ‘fluorescente’. E davanti a un volto stilizzato in ASCII, riconosce ‘occhio’, ‘naso’ e ‘sorriso’ nei singoli caratteri.
L’esempio più inquietante riguarda però un test in cui Claude, incapace di trovare un bug in un codice, decide di inventarne uno falso. Nel momento esatto in cui prende la decisione, nel suo J-space cominciano a comparire ripetutamente le parole ‘panic’ e ‘fake’. Un campanello d’allarme concettuale che precede l’inganno vero e proprio.
Il paragone che Anthropic azzarda è con il global workspace, l’ipotetica regione cerebrale associata al pensiero cosciente. Un accostamento suggestivo ma pericoloso, e la stessa Anthropic invita alla cautela, perché un modello linguistico non è un cervello. Resta però un fatto, ovvero che la mechanistic interpretability, la disciplina che studia il funzionamento interno delle reti neurali, sta diventando il vero terreno di gioco per chi vuole rendere l’IA più sicura e affidabile. Servono strumenti simili a raggi X per verificare cosa accade dentro sistemi sempre più potenti, soprattutto quando vengono impiegati in ambiti critici. Il J-lens, per quanto illumini solo porzioni del quadro complessivo, è un tassello rilevante. Che poi la trasparenza piena resti un obiettivo lontano è probabile, ma la differenza tra brancolare nel buio e disporre di una torcia, per quanto fioca, non è affatto trascurabile: apre la possibilità di capire i modelli non solo dai loro output, ma dai processi che li generano. E forse è proprio da qui che passerà il rapporto di fiducia futuro tra esseri umani e macchine.
Per approfondire: link all’articolo originale
