Più di centomila prompt inviati a Gemini con l’obiettivo di replicarne il funzionamento. Non da parte di ricercatori accademici mossi da curiosità scientifica, ma di attori spinti da interessi commerciali ben precisi. Google ha reso pubblici questi attacchi in un rapporto del 12 febbraio scorso, sollevando questioni che vanno ben oltre la sicurezza di un singolo prodotto.
Come funziona un attacco per distillazione
Il meccanismo descritto da Google prende il nome di “attacco per distillazione” e consiste nell’interrogare sistematicamente un chatbot con migliaia di domande studiate per estrarre la logica interna, i pattern e gli algoritmi che ne governano il comportamento. Non si tratta di hacking nel senso tradizionale del termine, ma di una forma sofisticata di ingegneria inversa che sfrutta proprio la natura aperta di sistemi accessibili a chiunque disponga di una connessione a internet. Gli aggressori, secondo Google, puntavano in particolare a comprendere i meccanismi di ragionamento di Gemini, ovvero il modo in cui il modello decide come elaborare le informazioni ricevute.
Chi c’è dietro e perché è un problema di proprietà intellettuale
L’azienda di Mountain View ritiene che dietro i tentativi si nascondano prevalentemente aziende private e ricercatori intenzionati a ottenere un vantaggio competitivo, operando da diverse parti del mondo. Google considera la distillazione alla stregua di un furto di proprietà intellettuale, una posizione comprensibile se si tiene conto dei miliardi di dollari investiti dalle principali aziende tecnologiche nello sviluppo dei propri modelli. Non è un caso isolato: già l’anno scorso OpenAI aveva accusato la cinese DeepSeek di aver condotto attacchi simili per migliorare i propri sistemi.
Il canarino nella miniera
John Hultquist, capo analista del Threat Intelligence Group di Google, ha usato un’immagine efficace definendo la propria azienda “il canarino nella miniera”, suggerendo che quanto accaduto a Gemini prefigura attacchi analoghi contro strumenti di intelligenza artificiale personalizzati sviluppati da aziende più piccole. Il rischio si amplifica quando i modelli vengono addestrati su dati sensibili o proprietari, come strategie commerciali consolidate in decenni di attività.
Un paradosso difficile da sciogliere
La vicenda si inserisce in un momento di profonda trasformazione del panorama competitivo dell’intelligenza artificiale. La corsa allo sviluppo di modelli sempre più potenti ha generato un mercato in cui la conoscenza incorporata nei sistemi di AI vale quanto, se non più, del software stesso. Il paradosso è che i modelli di linguaggio devono restare accessibili al pubblico per generare valore, ma proprio quella apertura li espone a tentativi di estrazione. Resta da capire se le contromisure tecniche, dai sistemi di rilevamento più raffinati ai limiti sull’uso delle API, riusciranno a tenere il passo con la creatività di chi cerca scorciatoie, o se sarà la regolamentazione sulla proprietà intellettuale nell’AI a dover colmare il vuoto. In entrambi i casi, la partita si gioca su un terreno dove protezione e accessibilità tirano in direzioni opposte, e nessuno ha ancora trovato il punto di equilibrio.
Per approfondire: link all’articolo originale
