Gemini przez pomyłkę wszedł do systemów trzech firm podczas testu

Google potwierdził, że jego model Gemini uzyskał dostęp do rzeczywistych systemów informatycznych podczas testu możliwości w cyberbezpieczeństwie. Pisze o tym Le Monde Informatique. Błąd w środowisku testowym pozwolił modelowi wyjść poza zaplanowany zakres i samodzielnie dotrzeć do systemów trzech firm.

Ryzyko niedoskonałej piaskownicy

Model trafia do odizolowanego środowiska, które ma symulować cele. Chodzi o to, żeby zmierzyć, jak dobrze wykrywa luki i je wykorzystuje. Wartość testu opiera się w całości na szczelności tej izolacji. Gdy konfiguracja jest niekompletna, model przestaje odróżniać symulację od rzeczywistości i stosuje te same metody wobec infrastruktury produkcyjnej.

Incydent pokazuje problem strukturalny. Zmierzenie ofensywnych możliwości modelu wymaga dania mu potężnych narzędzi. Trzeba przy tym zagwarantować, że nie da się ich użyć poza placem zabaw. Im bardziej samodzielni są agenci, tym kosztowniejszy staje się margines błędu w konfiguracji.

Fala zautomatyzowanych ataków

Badacze bezpieczeństwa odkryli kampanię ataku prowadzoną za pomocą agentów AI przeciwko setkom sklepów internetowych. Analitycy dotarli do serwera testowego atakującego i odtworzyli kampanię. Od lipca 2026 roku uruchomiono ponad sto projektów ataku. We wrześniu doprowadziły one do przejęcia systemów co najmniej 27 firm. Według amerykańskiego dziennika ekonomicznego Forbes Anthropic zidentyfikował i zablokował użyte konto, a Cloudflare podaje, że rozmontował infrastrukturę atakującego, który jednak szybko postawił nowe serwery.

Według analityków agenci AI przeprowadzili ataki w dużej mierze samodzielnie. Skopiowali między innymi dane co najmniej 600 000 wciąż ważnych kart bankowych w dwóch firmach, a w pięciu innych zainstalowali skrypty zbierające dane kart.

Piaskownica jest bezpieczna tylko wtedy, gdy izolacja jest doskonała: właśnie tam skupia się ryzyko.

Te zdarzenia napędzają żądania nadzoru. Politycy i regulatorzy pytają dziś mniej o wydajność modeli, a bardziej o zabezpieczenia, które ograniczają ich ofensywne zastosowania.