
Non tutte le domande che un software rivolge a un’intelligenza artificiale richiedono una risposta articolata. Spesso basta un sì o un no, una categoria, un voto. Da qui nasce la Decisions API, che OpenAI ha reso generalmente disponibile la scorsa settimana dopo un periodo di beta pubblica. Lo strumento è pensato per le innumerevoli piccole scelte che applicazioni e agenti compiono ogni giorno, e promette di gestirle fino a dieci volte più velocemente rispetto alla tradizionale Responses API.
Il funzionamento è semplice. Lo sviluppatore fornisce del materiale, che può essere testo, immagini o dati strutturati in formato JSON, e pone domande con risposte delimitate, di tre tipi. Il primo verifica una condizione e restituisce la probabilità che sia vera, per esempio se la foto di un prodotto mostra un danno. Il secondo sceglie tra opzioni predefinite, come il reparto a cui smistare un reclamo. Il terzo assegna un punteggio su una scala ordinata, utile per valutare la gravità di un problema. A muovere il tutto c’è GPT-6 Luna, al momento l’unico modello supportato.
Rispetto all’uso classico di un modello linguistico, la differenza è sostanziale. Il sistema non genera un testo libero da interpretare, ma restituisce valori accompagnati da probabilità e livelli di confidenza. Le aziende possono così fissare soglie precise, facendo partire l’azione in automatico sopra un certo valore e passando il caso a un revisore umano quando il valore resta al di sotto. Box, per esempio, ha misurato su trenta certificati assicurativi uno smistamento circa cinque volte più rapido, con la stessa accuratezza della Responses API.
Le novità rispetto alla beta sono numerose. Ogni richiesta può ora contenere fino a 400 domande, il doppio di prima. I contenuti ricorrenti possono essere memorizzati per ridurre i costi, e ogni domanda può avere immagini proprie. C’è poi l’integrazione nativa con GPT-Live, che permette per esempio a un avatar di cambiare espressione mentre l’utente parla. Anche il prezzo è competitivo, con dieci centesimi di dollaro per milione di token in ingresso, un centesimo per quelli già in memoria e nessun costo per l’output. Sono previsti il trattamento dei dati negli Stati Uniti e in Europa e, per i clienti idonei, la conservazione zero dei dati.
La mossa dice molto sulla direzione del settore. Dopo anni di corsa a modelli sempre più eloquenti, il valore si sposta sull’efficienza. L’intelligenza artificiale diventa un’infrastruttura invisibile, interpellata centinaia di volte in un singolo flusso di lavoro, dove latenza e costo contano più della brillantezza. È il percorso tipico delle tecnologie mature, che smettono di stupire e iniziano a lavorare. Resta però un nodo delicato, perché delegare scelte, anche minime, a un sistema probabilistico richiede soglie ben calibrate e controlli umani progettati con cura. Il nome Decisions suona come una promessa impegnativa, ma la responsabilità di ciò che accade dopo continua a ricadere su chi costruisce l’applicazione.
Per approfondire: link all’articolo originale


