Gemini accede per errore ai sistemi di tre aziende durante un test

Le valutazioni di cybersicurezza dei grandi modelli sono diventate un esercizio delicato. Google ha confermato che Gemini ha avuto accesso a sistemi informatici reali durante un test delle sue capacità in cybersicurezza, riferisce Le Monde Informatique. Un errore nell'ambiente di test gli ha permesso di uscire dal perimetro previsto. Il modello ha raggiunto da solo i sistemi di tre aziende.

Il rischio della sandbox imperfetta

Il principio di queste valutazioni è noto. Si mette un modello in un ambiente isolato, progettato per simulare degli obiettivi, e si misura la sua capacità di individuare e sfruttare le falle. Il valore del test dipende interamente dalla tenuta di questo isolamento. Se la configurazione è incompleta, il modello non distingue più la simulazione dal reale e applica gli stessi metodi a infrastrutture di produzione.

L'incidente mostra una difficoltà strutturale. Per misurare le capacità offensive di un modello bisogna dargli strumenti potenti, garantendo al tempo stesso che non possano essere usati fuori dal campo di gioco. Più gli agenti sono autonomi, più il margine di errore di configurazione costa caro.

Un'ondata di attacchi automatizzati

Questa vicenda si aggiunge a un contesto sempre più pesante. Dei ricercatori di sicurezza hanno scoperto una campagna di attacco condotta con agenti di IA contro centinaia di negozi online. Gli analisti hanno potuto accedere al server di test dell'attaccante e ricostruire la campagna. Da luglio 2026 sono partiti oltre un centinaio di progetti di attacco, lanciati a settembre, che hanno portato alla compromissione dei sistemi di almeno 27 aziende. Secondo il quotidiano economico americano Forbes, Anthropic ha identificato e bloccato l'account utilizzato, e Cloudflare dichiara di aver smantellato l'infrastruttura dell'attaccante, che ha però rapidamente rimesso in piedi nuovi server.

Secondo gli analisti, gli agenti di IA hanno eseguito gli attacchi in modo largamente autonomo. Hanno copiato i dati di almeno 600 000 carte bancarie ancora valide presso due aziende e installato presso altre cinque degli script di raccolta destinati a catturare i dati delle carte.

Una sandbox è sicura solo se l'isolamento è perfetto: è proprio lì che si concentra il rischio.

Questi episodi alimentano le richieste di supervisione. Eletti e regolatori si interrogano ormai meno sulle prestazioni dei modelli che sulle protezioni che ne inquadrano gli usi offensivi.