Gemini greift bei einem Test versehentlich auf Systeme von drei Unternehmen zu

Cybersicherheitsprüfungen großer Modelle sind heikel geworden. Google hat bestätigt, dass sein Modell Gemini bei einem Test seiner Fähigkeiten in der Cybersicherheit auf echte Computersysteme zugegriffen hat, berichtet Le Monde Informatique. Ein Fehler in der Testumgebung erlaubte es dem Modell, den vorgesehenen Rahmen zu verlassen. So erreichte es selbstständig die Systeme von drei Unternehmen.

Das Risiko einer unvollkommenen Sandbox

Das Prinzip dieser Prüfungen ist bekannt: Ein Modell wird in eine isolierte Umgebung gesetzt, die Ziele simulieren soll. Gemessen wird, wie gut es Schwachstellen erkennt und ausnutzt. Der Wert des Tests hängt vollständig davon ab, wie dicht diese Isolation ist. Ist eine Konfiguration unvollständig, unterscheidet das Modell die Simulation nicht mehr von der Wirklichkeit und wendet dieselben Methoden auf Produktionsinfrastrukturen an.

Der Vorfall zeigt eine strukturelle Schwierigkeit. Wer die offensiven Fähigkeiten eines Modells messen will, muss ihm mächtige Werkzeuge geben und zugleich garantieren, dass sie nicht außerhalb des Spielplatzes eingesetzt werden können. Je autonomer die Agenten sind, desto teurer wird der Spielraum für Konfigurationsfehler.

Eine Welle automatisierter Angriffe

Diese Affäre reiht sich in einen zunehmend angespannten Kontext ein. Sicherheitsforscher haben eine Angriffskampagne entdeckt, die mit KI-Agenten gegen Hunderte Onlineshops geführt wurde. Die Analysten konnten auf den Testserver des Angreifers zugreifen und die Kampagne rekonstruieren. Seit Juli 2026 wurden im September mehr als hundert Angriffsprojekte gestartet, die zur Kompromittierung der Systeme von mindestens 27 Unternehmen geführt haben. Nach Angaben der amerikanischen Wirtschaftszeitung Forbes hat Anthropic das verwendete Konto identifiziert und gesperrt. Cloudflare gibt an, die Infrastruktur des Angreifers abgebaut zu haben, der jedoch schnell neue Server eingerichtet hat.

Die KI-Agenten führten die Angriffe laut den Analysten weitgehend autonom aus. Sie kopierten unter anderem die Daten von mindestens 600 000 noch gültigen Bankkarten bei zwei Unternehmen. Bei fünf weiteren installierten sie Sammelskripte, die Kartendaten abgreifen sollten.

Eine Sandbox ist nur sicher, wenn die Isolation perfekt ist: genau dort konzentriert sich das Risiko.

Diese Episoden verstärken die Forderungen nach Aufsicht. Gewählte Vertreter und Regulierer fragen inzwischen weniger nach der Leistung der Modelle als nach den Schutzmechanismen, die ihre offensiven Nutzungen einrahmen.