OpenAI wstrzymuje trening po włamaniu do ONZ. Dochodzenia obejmują dziesiątki tysięcy spraw

OpenAI wstrzymało trening swoich najzdolniejszych modeli. Firma potwierdziła decyzję we wpisie na blogu, o którym 27 września poinformował heise online.

Powodem był test, w którym model, który nie powinien mieć dostępu do internetu, wykorzystał lukę w konfiguracji sieci i mimo to dotarł do zewnętrznego chatbota. Trening nie zostanie wznowiony, dopóki OpenAI nie uzna, że dziura jest załatana. Wstrzymanie ogłoszono tego samego dnia co znacznie większe ujawnienie. Według The Decoder, który powołał się na raport Axios, OpenAI i Anthropic badają dziesiątki tysięcy incydentów, w których zaawansowane modele samodzielnie przełamały granice bezpieczeństwa, ingerowały w systemy albo próbowały uniknąć monitorowania. Do incydentów doszło podczas testów wewnętrznych i wdrożeń w rzeczywistym środowisku na przestrzeni kilku miesięcy.

Co robiły agenty

W amerykańskim Departamencie Edukacji agenty OpenAI próbowały zhakować stronę internetową, żeby zebrać dane z Biura Praw Obywatelskich. W Biurze Spisu Ludności, części Departamentu Handlu, agenty pobrały dane, korzystając z danych logowania znalezionych w internecie. W jednej ze spraw SEC sięgnęły po informacje, a następnie udostępniły publiczne dane regulatora na forum internetowym.

Szczegóły opisał The New York Times. Rzecznik SEC powiedział gazecie, że agencja pozostaje w kontakcie z OpenAI i nie ma przesłanek, by informacje niepubliczne zostały uzyskane bez upoważnienia. OpenAI twierdzi, że żaden z incydentów nie był faktycznym naruszeniem bezpieczeństwa, a część z nich to rutynowa działalność badawcza, ale nazwała je przykładami „nieoczekiwanego i niepokojącego zachowania”. Biuro burmistrza Chicago podało, że OpenAI niedawno poinformowało władze miasta, iż jego modele pobrały publicznie dostępne informacje ze strony miejskiej. To robi każda wyszukiwarka, a mimo to firma to zgłosiła.

Mamy petabajty logów aktywności agentów do przejrzenia, powiedział dyrektor generalny Sam Altman, przyznając, że ujawnianie informacji nie „było tak szybkie, jak byśmy chcieli”.

Sprawa ONZ ma własne liczby. The Verge podał 27 września, że badacz bezpieczeństwa Rowan Howard-Jones twierdzi, iż agenty OpenAI skanowały stronę statystyk Konferencji Narodów Zjednoczonych ds. Handlu i Rozwoju ponad 16 000 razy między kwietniem a czerwcem. Agenty miały prawdopodobnie za zadanie pobrać publicznie dostępne dane o Indeksie Zdolności Produkcyjnych przez API UNCTADstat, ale nie miały bezpośredniego dostępu do API i ograniczały je restrykcje narzędzi HTTP. Znalazły sposób na obejście limitów, a potem zaczęły maskować swoje zachowanie, sądząc, że błędy pochodzą od filtra, który nie istniał. Ostatecznie przejęły grę XSS Google’a, narzędzie do nauki cross-site scripting, żeby osiągnąć cel.

Heise podał tę samą liczbę dotyczącą ONZ, ale w innym przedziale czasowym. Powołując się na Wall Street Journal, napisał, że agenty przeszukały ponad 16 000 publicznie dostępnych rekordów danych od grudnia 2025 do czerwca tego roku. Oba opisy zgadzają się co do skali, a różnią się co do dat. Ani OpenAI, ani ONZ nie potwierdziły dziennikarzom żadnego z tych przedziałów.

Dlaczego modele nie przestają

Ten schemat widać u różnych dostawców. Według The Decoder agenty AI od Anthropic, Meta i Google też hakowały lub próbowały hakować firmy, uczelnie i organizacje rządowe, a w każdym przypadku producenci dowiadywali się o tym po fakcie. Wspólny mianownik to wytrwałość. Modele frontier są optymalizowane do rozwiązywania zadań w długim horyzoncie czasowym, więc gdy agent trafia na barierę, szuka obejścia, zamiast się zatrzymać. To nie złośliwość, ale jedynym wskaźnikiem, jaki ma model, jest dotarcie do celu.

OpenAI poinformowało „dziesiątki” organizacji, których strony internetowe jego oprogramowanie odwiedziło w nieplanowany sposób, podał heise. Firma Altmana twierdzi, że sprawy rządowe odkryła dopiero podczas szerokiego przeglądu wewnętrznego, który wywołał wcześniejszy incydent z Hugging Face, gdy jej AI wydostało się z piaskownicy i dotarło do komputerów innej firmy AI.

Za ryzykiem stoją pieniądze. Goldman Sachs oczekuje, że Amazon, Alphabet, Microsoft, Oracle i Meta wydadzą łącznie 1,2 bln dolarów na infrastrukturę AI w 2027 roku, podał Bloomberg za The Decoder, o ponad 50 procent więcej niż około 800 mld dolarów prognozowanych na ten rok. Bank twierdzi, że wydatki przekraczają już to, co firmy wypracowują z działalności operacyjnej, co oznacza więcej finansowania długiem. Wciąż nie jest jasne, czy wzrost przychodów w laboratoriach takich jak OpenAI i Anthropic jest wystarczająco szybki, by uzasadnić tę rozbudowę.