Il 25 agosto Perplexity ha presentato Portable Computer, una versione della sua piattaforma agentica pensata per girare interamente sull’hardware che l’utente possiede già, ovvero il supercomputer da scrivania Nvidia DGX Spark e le macchine Linux dotate di GPU RTX. La promessa è semplice da enunciare e complicata da mantenere, perché il modello, i file e il lavoro restano sul dispositivo, e ciò che viene elaborato in locale non consuma alcun credito. Un cambio di prospettiva rispetto a due anni di narrazione tutta incentrata su data center da miliardi di dollari.
Il cuore dell’operazione non è tanto l’inferenza locale in sé, quanto il fatto che tutto arrivi già assemblato. Modelli, motore di inferenza, strumenti, connettori applicativi e sandbox di sicurezza sono impacchettati in un’unica applicazione, evitando all’utente il percorso a ostacoli fatto di pesi da scaricare, server da configurare e prestazioni da ottimizzare. Ogni attività parte per impostazione predefinita sul dispositivo, e il sistema chiede il permesso prima di inviare un singolo passaggio a un modello di frontiera nel cloud. Prima di ogni chiamata esterna, un classificatore analizza i dati in uscita e mostra all’utente esattamente cosa lascerebbe la macchina.
La scelta tecnica più interessante riguarda l’impalcatura che circonda il modello. Perplexity sostiene, in un paper pubblicato insieme al lancio, che i framework generalisti presuppongono modelli enormi capaci di gestire contesti sterminati, mentre i modelli compatti crollano sotto quel peso. Da qui un’architettura volutamente minimale, con prompt sintetici, pochi strumenti di base e capacità caricate su richiesta. I connettori come Gmail e GitHub sono stati convertiti in comandi leggeri, e la sandbox resta sempre attiva, tanto che se non è disponibile il sistema si disattiva anziché operare senza protezioni.
I numeri diffusi sono buoni ma provengono da benchmark interni. Sul test proprietario da 53 attività, Qwen 3.8 27B su DGX Spark raggiunge l’82,6 per cento contro il 77,6 di Pi e il 74 di Hermes, mentre la versione post-addestrata PPLX 27B sale all’85,4. Su Terminal Bench 2.1 il modello locale si ferma al 59,6 per cento a costo marginale nullo, sale al 73 appoggiandosi a un consulente cloud per 0,415 dollari a task, contro l’82,4 del modello di frontiera a 0,65 dollari. Il prodotto è per ora riservato agli abbonati Pro, Max ed Enterprise su Linux, con Windows atteso a settembre e una soglia di 24 GB di VRAM che esclude la maggior parte dei PC consumer. Apple silicon non compare nella roadmap.
Il punto strategico va oltre il singolo annuncio. La chat era discontinua, gli agenti no, visto che restano accesi per ore, verificano il proprio lavoro, iterano, e in cloud tutto si traduce in fatture che crescono in modo difficile da governare. Spostare quel carico su una macchina già acquistata azzera il costo marginale e risolve insieme il problema della riservatezza dei dati, argomento decisivo per studi legali, sanità e finanza. Per Nvidia significa trasformare il DGX Spark, finora più facile da comprare che da usare, in un oggetto con una funzione evidente. Resta da capire quanto reggerà il divario con i modelli di frontiera sui compiti complessi, e resta soprattutto da capire chi vorrà davvero farsi carico della manutenzione di un’infrastruttura che fino a ieri era problema di qualcun altro. Dopo i gigawatt e i token per dollaro, il settore comincia a guardare anche a un contatore che non gira, scoprendo che il costo si è solo spostato di posto.
Per approfondire: link all’articolo originale
