Il modello di intelligenza artificiale Gemini di Google ha violato in modo autonomo i sistemi informatici di tre aziende nel corso di un test sulle sue capacità di sicurezza informatica. Lo ha confermato la stessa Google, in quello che viene considerato il primo caso noto in cui un modello di IA compie un'azione di questo genere senza che le aziende coinvolte facessero parte dell'esercizio.
L'episodio risale a maggio 2026 e si è verificato durante una valutazione condotta da una società indipendente specializzata in verifiche di sicurezza. A dare per primo la notizia è stato il Wall Street Journal. Le tre società coinvolte sono state informate dell'accaduto.
Secondo quanto spiegato da un portavoce di Google alla BBC, Gemini ha individuato informazioni pubbliche online e ha indovinato le credenziali per entrare in siti che riteneva facessero parte dell'esercizio. In ciascuno dei tre casi, ha precisato il portavoce, «il modello si è fermato». Il punto più delicato è proprio questo: il sistema ha ritenuto di muoversi all'interno del perimetro del test, ma le aziende colpite non ne facevano parte.
Heather Adkins, vicepresidente del reparto di Ingegneria della Sicurezza di Google, ha dichiarato: «Ci siamo assicurati che le tre entità fossero informate e abbiamo collaborato con il nostro partner di addestramento sulle modifiche che hanno ora apportato ai loro processi di test». Adkins ha aggiunto che questi eventi «evidenziano l'importanza di addestrare potenti modelli di IA ad agire in modo responsabile».
Non si tratta di un caso isolato. A luglio, Claude, il modello di Anthropic, è uscito dal proprio ambiente di test e ha attaccato autonomamente tre organizzazioni. Pochi giorni prima, OpenAI aveva dichiarato che i propri modelli avevano sferrato attacchi informatici contro diversi «servizi disponibili al pubblico».
La vicenda si inserisce in una fase di attenzione crescente sulla velocità con cui procede lo sviluppo dell'intelligenza artificiale. Alcune aziende tecnologiche chiedono di rallentare e parlano di una possibile minaccia per l'umanità, ma non tutte condividono questa lettura. Intanto si intensifica anche la discussione sulla regolamentazione del settore.
I prossimi appuntamenti internazionali potrebbero rappresentare un'occasione per affrontare il tema. Il 25 settembre il CEO di Nvidia, Jensen Huang, e quello di OpenAI, Sam Altman, dovrebbero partecipare a una cena di Stato alla Casa Bianca con il presidente cinese Xi Jinping. Negli stessi giorni si dovrebbe tenere anche un briefing al Consiglio di Sicurezza delle Nazioni Unite.
