Che il Dipartimento della Difesa statunitense possa utilizzare sistemi di intelligenza artificiale generativa per classificare obiettivi militari e suggerire priorità di attacco non è più materia da romanzo distopico. Un funzionario del Pentagono ha confermato che strumenti come ChatGPT di OpenAI e Grok di xAI potrebbero trovarsi presto al centro di decisioni operative ad alto rischio mentre, come abbiamo già ampiamente letto, il modello Claude di Anthropic è stato integrato nei software che Palantir vende alle agenzie di intelligence e difesa americane.
Il meccanismo descritto è tanto semplice nella sua logica quanto inquietante nelle sue implicazioni. Una lista di potenziali obiettivi verrebbe inserita in un sistema di intelligenza artificiale generativa già predisposto per ambienti classificati. Gli analisti umani porrebbero domande al sistema, chiedendogli di analizzare le informazioni e stabilire delle priorità. Spetterebbe poi sempre a un operatore in carne e ossa verificare e valutare i risultati prima di qualsiasi decisione operativa. Il principio dell’uomo nel ciclo decisionale resta formalmente intatto, ma la catena di comando si arricchisce di un anello algoritmico il cui peso reale è difficile da misurare.
Il contesto in cui si inserisce la rivelazione è quello di uno scontro sempre più aspro tra il Pentagono e Anthropic. La società ha rifiutato di concedere al governo accesso incondizionato ai propri modelli, ponendo come limiti invalicabili la sorveglianza di massa dei cittadini americani e l’uso in armi completamente autonome. La risposta del Dipartimento della Difesa è stata drastica, fino a classificare i prodotti di Anthropic come rischio per la catena di approvvigionamento. Anthropic ha reagito con due cause legali, denunciando una ritorsione illegale da parte dell’amministrazione Trump e chiedendo l’annullamento della designazione.
I documenti e le demo del software Palantir esaminati dalla stampa offrono uno spaccato concreto di come l’intelligenza artificiale operi già in contesti bellici. Il sistema Maven, gestito dalla National Geospatial Intelligence Agency e accessibile a tutti i rami delle forze armate statunitensi, è in grado di applicare algoritmi di visione artificiale a immagini satellitari, identificare automaticamente sistemi nemici e persino proporre quali bombardieri e munizioni assegnare a ciascun obiettivo attraverso uno strumento chiamato AI Asset Tasking Recommender.
La vicenda solleva una questione che va oltre lo specifico contenzioso legale tra Anthropic e il Pentagono. Il settore dell’intelligenza artificiale si trova a un bivio in cui le aziende che sviluppano i modelli devono decidere dove tracciare la linea tra collaborazione istituzionale e responsabilità etica. Il fatto che una società rifiuti determinate condizioni d’uso e venga per questo penalizzata dal proprio governo crea un precedente capace di condizionare i rapporti tra industria tecnologica e apparato militare per gli anni a venire. La domanda, ormai, non è se l’intelligenza artificiale entrerà nei teatri di guerra, ma chi ne scriverà davvero le regole d’ingaggio, e con quale mandato democratico lo farà.
Per approfondire: link all’articolo originale
