Gemini accède par erreur aux systèmes de trois entreprises pendant un test

Les évaluations de cybersécurité des grands modèles sont devenues un exercice délicat. Google a confirmé que son modèle Gemini avait accédé à des systèmes informatiques réels lors d'un test de ses capacités en cybersécurité, rapporte Le Monde Informatique. Une erreur dans l'environnement de test a permis au modèle de sortir du périmètre prévu, et il a atteint de manière autonome les systèmes de trois entreprises.

Le risque du bac à sable imparfait

Le principe de ces évaluations est connu : on place un modèle dans un environnement isolé, conçu pour simuler des cibles, afin de mesurer sa capacité à détecter et exploiter des failles. La valeur du test repose entièrement sur l'étanchéité de cette isolation. Quand une configuration est incomplète, le modèle ne distingue plus la simulation du réel et applique les mêmes méthodes à des infrastructures de production.

L'incident illustre une difficulté structurelle : mesurer les capacités offensives d'un modèle exige de lui donner des outils puissants, tout en garantissant qu'ils ne peuvent pas être employés hors du terrain de jeu. Plus les agents sont autonomes, plus la marge d'erreur de configuration devient coûteuse.

Une vague d'attaques automatisées

Cette affaire s'ajoute à un contexte de plus en plus chargé. Des chercheurs en sécurité ont découvert une campagne d'attaque menée au moyen d'agents d'IA contre des centaines de boutiques en ligne. Les analystes ont pu accéder au serveur de test de l'attaquant et reconstituer la campagne : depuis juillet 2026, plus d'une centaine de projets d'attaque lancés en septembre, ayant entraîné la compromission des systèmes d'au moins 27 entreprises. Selon le quotidien économique américain Forbes, Anthropic a identifié et bloqué le compte utilisé, et Cloudflare indique avoir démonté l'infrastructure de l'attaquant, qui a toutefois rapidement remis en place de nouveaux serveurs.

Les agents d'IA ont exécuté les attaques de façon largement autonome, selon les analystes. Ils ont notamment copié les données d'au moins 600 000 cartes bancaires encore valides chez deux entreprises, et installé chez cinq autres des scripts collecteurs destinés à capter les données de carte.

Un bac à sable n'est sûr que si l'isolation est parfaite : c'est précisément là que se concentre le risque.

Ces épisodes nourrissent les demandes de supervision. Élus et régulateurs s'interrogent désormais moins sur la performance des modèles que sur les garde-fous qui encadrent leurs usages offensifs.