Sui giornali ancora leggete storie dell’AI che deve rallentare, come se fosse una cosa tutta da decidere. Nel nostro settore, invece, quella discussione è durata due giorni. Il 12 settembre Dario Amodei di Anthropic pubblica “We Must Pace the Frontier” e chiede all’industria di rallentare. Altman di OpenAI gli va dietro. Elon Musk pure. Poi il lunedì immediatamente successivo Trump risponde che la paura dell’AI è un “HOAX”, una fandonia, e Pechino liquida la proposta come “fearmongering”, uno spauracchio. Le due sole potenze in grado di imporre realmente un limite hanno detto no nella stessa giornata, ed entrambe con parole sprezzanti.
Ma perché proprio ora?
Due angolature. La prima è effettivamente inquietante. A spaventare i maggiori laboratori di AI è una sigla che fino a poco fa stava solo nei paper: Recursive Self-Improvement, RSI. In poche parole, l’AI sta cominciando ad auto-migliorarsi, costruendo – da sola – altri sistemi AI.
Anthropic dice che il 26% della ricerca sui propri modelli ormai la guida Claude (a proposito, questa settimana dovrebbe uscire la nuova versione di Opus). OpenAI punta ad avere un ricercatore autonomo entro il 2028 ma ammette di non sapere ancora come arrivarci in sicurezza. Secondo voci non confermate, Google DeepMind avrebbe raggiunto un traguardo nell’RSI che gli altri le invidiano ed Elon Musk, oltre a essere d’accordo con Amodei, da tempo afferma che gli umani sono “gradualmente sempre meno nel loop“. Con buona pace di tutti gli esperti di governance che – anche qui da noi – avvertono che non dovrà mai esistere un’AI senza “human in the loop”. Peccato che questo sopravvalutato loop presto non sarà più alla nostra portata.
La seconda è un po’ più prosaica ed è spiegata bene da Reed Albergotti su Semafor: Anthropic e OpenAI stanno andando in borsa e “spendere miliardi in una corsa a fare il modello più grosso non è il miglior argomento di vendita“. Agli investitori non piacciono le aziende che buttano denaro (con spese che crescono esponenzialmente) per ottenere capacità che ai clienti servono solo marginalmente. Anche per questo, secondo uno scoop del Financial Times, OpenAI e Anthropic avrebbero concordato di rallentare la ricerca, con buona pace del governo USA, che invece non vuole perdere posizioni sulla Cina.
Già, la Cina. Il Paese che non vuole sentire parlare di rallentamenti, con GLM, K3 e DeepSeek sempre pronti a insidiare i modelli di frontiera americani. Il gap fra USA e Cina è ormai di pochi mesi e un rallentamento americano rischierebbe di anticipare il sorpasso. E se c’è una cosa che spaventa gli USA più dell’RSI o dell’AGI, è che la prima superintelligenza del pianeta parli cinese.
