Alla conferenza Dreamforce di questa settimana Salesforce ha presentato Koa, il suo primo modello di ragionamento, costruito insieme a Nvidia sulla base di Nemotron, il modello open-weight della casa di Santa Clara. Dietro l’annuncio, apparentemente solo tecnico, si intravede un messaggio politico rivolto ai grandi laboratori proprietari, perché le aziende non vogliono necessariamente il modello più potente del mondo, vogliono quello che svolge bene il loro lavoro, a un costo prevedibile e senza cedere dati sensibili a terzi.
Koa nasce da un lavoro di post-training congiunto tra Salesforce e Nvidia, orientato a tre ambiti molto concreti come vendite, marketing e assistenza clienti. Il modello entra nel catalogo di Agentforce, la piattaforma con cui i clienti Salesforce costruiscono agenti capaci di gestire attività ripetitive, dalla risposta alle richieste di supporto alla pianificazione degli appuntamenti. Fino a oggi, quando un agente doveva ragionare su compiti articolati o di lunga durata, la richiesta veniva instradata dal gateway di Agentforce verso un modello di frontiera come Claude o ChatGPT. Come ha spiegato Jayesh Govindarajan, responsabile della divisione AI di Salesforce, l’azienda aveva già sviluppato numerosi modelli linguistici piccoli e specializzati, ma per il ragionamento dipendeva dai fornitori esterni. Fino a ora.
Il vero nodo, sempre secondo Govindarajan, era la mancanza di una base pre-addestrata adeguata, perché serviva un modello americano, allo stato dell’arte e con una provenienza dei dati chiara, requisito che i modelli aperti cinesi come Qwen non garantiscono. Nemotron ha colmato quel vuoto. Per specializzare Koa, Salesforce e Nvidia non hanno usato dati reali dei clienti, ma dataset sintetici che simulano scenari plausibili, come un ambiente di assistenza clienti popolato da operatori e da chiamanti irritati, oppure un venditore impegnato a chiudere una trattativa. Il risultato, nelle intenzioni, è un modello che non può far fuoriuscire informazioni che non ha mai visto e che resta dentro i perimetri di sicurezza e conformità già previsti dalla piattaforma.
C’è poi la questione economica. Kari Ann Briski di Nvidia parla di un’architettura di inferenza pensata per l’efficienza nei token, che combina sovranità tecnologica, rapidità di risposta e ragionamento parsimonioso. Meno token consumati significa fattura più leggera per lo stesso lavoro. Salesforce, però, non chiude la porta ai laboratori, e nella stessa settimana ha annunciato Claudeforce, partnership con Anthropic che consente di usare Claude come interfaccia mantenendo i dati nei sistemi Salesforce.
La direzione è quella di uno spostamento del valore dal modello unico e onnisciente all’orchestrazione intelligente di modelli diversi, scelti in base al compito. Per i laboratori di frontiera è un segnale da leggere con attenzione, perché la specializzazione verticale erode proprio il segmento più remunerativo, quello enterprise. Resta da capire quanto a lungo reggerà l’equilibrio tra chi costruisce i modelli di base e chi li adatta al mestiere dei propri clienti, visto che il secondo mestiere, oggi, sembra quello più vicino a dove si generano i ricavi.
Per approfondire: link all’articolo originale
