Il laboratorio fondato lo scorso anno da Mira Murati, ex CTO di OpenAI, ha presentato al mondo quella che definisce una nuova categoria di intelligenza artificiale, i modelli di interazione. TML-Interaction-Small, il nome del sistema, è un modello Mixture-of-Experts da 276 miliardi di parametri con 12 miliardi attivi, progettato per gestire audio, video e testo in modo simultaneo e continuo, senza aspettare che l’utente finisca di parlare prima di elaborare una risposta. Non si tratta di un aggiornamento incrementale, ma di un tentativo dichiarato di superare il paradigma a turni che governa ogni assistente vocale e chatbot oggi in commercio.
Il cuore tecnico
La proposta si regge su quello che Thinking Machines chiama “micro-turni allineati nel tempo”, blocchi di 200 millisecondi nei quali il modello riceve e produce informazioni contemporaneamente. Il termine tecnico per la modalità è “full duplex”: il modello ascolta mentre parla, osserva il video mentre risponde, e può persino effettuare ricerche sul web o richiamare strumenti esterni senza interrompere il flusso della conversazione. L’architettura adotta una fusione precoce senza encoder separati per audio e immagini, il che significa che ogni segnale viene elaborato all’interno dello stesso trasformatore, addestrato da zero per lo scopo. La latenza dichiarata fra turno dell’utente e risposta del modello è di 0,40 secondi, un valore che si avvicina al ritmo naturale di una conversazione tra esseri umani.
Benchmark e capacità inedite
I risultati sui benchmark esistenti mostrano il modello in vantaggio rispetto a GPT-Realtime-2 e Gemini 3.1 Flash in modalità streaming su metriche come FD-bench e Audio MultiChallenge. La parte più rilevante dell’annuncio, però, riguarda le capacità che nessun benchmark precedente era attrezzato a misurare. Thinking Machines ha dovuto creare valutazioni interne per la consapevolezza temporale, la traduzione simultanea e la proattività visiva: il modello può contare le flessioni di una persona osservandola in video, ricordare all’utente di respirare ogni quattro secondi, o intervenire verbalmente quando rileva un errore nel codice scritto in tempo reale. I modelli concorrenti, testati sugli stessi compiti, restano in silenzio o forniscono risposte errate.
Il modello di sfondo asincrono
L’architettura prevede anche un modello di sfondo asincrono al quale il modello interattivo delega compiti che richiedono ragionamento più profondo, ricerca o uso di strumenti complessi. I risultati vengono poi integrati nella conversazione nel momento opportuno, senza interrompere il dialogo in corso. Thinking Machines ha inoltre contribuito ottimizzazioni al framework open source SGLang per gestire le sessioni di streaming con la frequenza richiesta da un’inferenza di questo tipo.
Una scommessa architetturale
La presentazione arriva in un momento in cui il settore sta convergendo verso una consapevolezza precisa: la prossima frontiera dell’intelligenza artificiale non è solo rendere i modelli più intelligenti, ma renderli capaci di collaborare con le persone in modo naturale. Il passaggio dal paradigma a turni a quello continuo ricorda la transizione dalle email alle videochiamate, perché non cambia solo la velocità, cambia la qualità stessa dell’interazione. Se l’approccio di Thinking Machines si dimostrerà robusto al di fuori delle demo controllate — e lo sapremo solo quando il modello sarà accessibile al pubblico nei prossimi mesi — potrebbe cambiare radicalmente le aspettative su cosa significhi davvero lavorare con un’intelligenza artificiale. Il fatto che l’interattività venga trattata come proprietà nativa del modello, e non come strato aggiunto sopra un sistema pensato per altro, rappresenta una scommessa architetturale che, se vinta, renderà obsoleti molti degli approcci oggi dominanti.
Per approfondire: link all’articolo originale
