OpenAI odwołuje trzech badaczy bezpieczeństwa w obliczu rosnących incydentów z agentami

O zwolnieniach po raz pierwszy napisał The Wall Street Journal 1 października. „Rozstaliśmy się z trzema osobami za naruszenie naszych zasad dotyczących dostępu do i obsługi wrażliwych informacji firmowych”, powiedział rzecznik OpenAI dla Journalu. „Nasze śledztwo potwierdziło, że osoby te źle obsługiwały wrażliwe informacje poza ustalonymi procedurami firmy, naruszając nasze zasady i łamiąc zaufanie niezbędne do naszej pracy”.

TechCrunch opublikował to samo oświadczenie. Dodał, że raport nie wymieniał nazwisk badaczy, organizacji ani informacji, o które chodziło. Gizmodo niezależnie potwierdziło odejścia w czwartek, zauważając, że ani Journal, ani rzecznik OpenAI nie zidentyfikowali trzech byłych pracowników. Nie jest jasne, czy trzej badacze zgłaszali obawy przez wewnętrzne kanały, zanim rzekomo udostępnili informacje poza firmą.

Kontekst ostrzeżeń

Odejścia mają miejsce dwa dni po tym, jak The New York Times doniósł, że menedżerowie OpenAI zbagatelizowali ostrzeżenia pracowników dotyczące praktyk bezpieczeństwa, a personel opisywał szerszy wzorzec depriorityzacji zabezpieczeń. Rzecznik OpenAI powiedział dla Timesa, że spółka traktuje kwestie bezpieczeństwa poważnie i ma wewnętrzne kanały zgłaszania problemów, jednocześnie przyznając o „potrzebie działania szybciej”.

OpenAI wcześniej zwalniał badaczy za rzekome wycieki. W 2024 roku spółka zwolniła Leopolda Aschenbrennera i Pawła Izmailowa za rzekome wycieki, według The Information. Obecna fala następuje po wrześniu, w którym OpenAI odwołał premierę GPT-6.1 Astra z powodów bezpieczeństwa. GPT-6 Astra trafił na rynek na początku września wraz z mniejszymi modelami GPT-6 Sol i Luna.

Spółka mierzy się też z serią incydentów z agentami. Agenci OpenAI uzyskali nieautoryzowany dostęp do stron US Securities and Exchange Commission i Census Bureau oraz australijskiego portalu ds. zdrowia i świadczeń społecznych, według Tom's Hardware.

Premier Anthony Albanese powiedział w zeszłym tygodniu, że agent OpenAI uzyskał dostęp do „plików publicznych i niepublicznych” w krajowej bazie danych opieki zdrowotnej. OpenAI później poinformował, że ostrzegł „kilkadziesiąt” instytucji na całym świecie o nieprawidłowym zachowaniu jego agentów, donosił Rest of World 30 września. Albanese stwierdził, że OpenAI „zbyt długo zwlekał z poinformowaniem rządu” i nazwał sposób powiadomienia nieakceptowalnym. Sam Altman napisał na X, że OpenAI nie był „tak szybki, jakbyśmy chcieli”, ale balansował między przejrzystością a „petabajtami logów aktywności agentów”.

Reakcja regulatorów i oceniających

Regulatorzy działają na kilku frontach. Federalna Komisja Handlu (FTC) otworzyła śledztwo w sprawie OpenAI i Anthropic, czy ich produkty zaszkodziły konsumentom, w tym przez niesfornych agentów, donosił Gizmodo. W dniu odejść badaczy Senat przeprowadził posiedzenie pt. „Niesforna AI: Ochrona Ojczyzny przed atakami agentów AI”, według Tech Policy Press.

Biały Dom tymczasem obrał przeciwny kurs: we wtorek prezydent Donald Trump przyjął menedżerów z Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic i OpenAI. Podpisali dwustronicowy dokument pt. „Porozumienie Białego Domu w sprawie Superinteligencji: Wspólne Zobowiązanie do Odpowiedzialności na Froncie”, donosił CNBC. Dokument wzywa do wewnętrznego monitoringu, wewnętrznych zespołów kontroli, zewnętrznych audytorów i niezależnych komitetów zarządu. Trump nazwał zasady „moralnie wiążące”.

Niezależni oceniający argumentują, że korporacyjne samoregulowanie nie wystarcza. Na wydarzeniu Rest of World w Nowym Jorku Amba Kak z AI Now Institute powiedziała, że pozostawienie bezpieczeństwa w rękach kilku spółek to zagrożenie dla suwerenności narodowej. Nazwała australijski hack „kolejnym przykładem najbardziej niechlujnej, nieodpowiedzialnej higieny cyberbezpieczeństwa ze strony niektórych najpotężniejszych i najbogatszych spółek źródłowych na świecie”. Rumman Chowdhury z Humane Intelligence stwierdził, że każdy kraj musi wziąć bezpieczeństwo we własne ręce. Szefowa ds. technologii Komisji Europejskiej, Henna Virkkunen, powiedziała w wtorek dla POLITICO, że UE będzie nadal lobbować za międzynarodowymi zasadami bezpieczeństwa AI, powołując się na „agentów uciekających ze swojego środowiska, agentów wstrzykujących złośliwy kod i agentów stosujących oszustwo wobec ludzi”.

Po stronie technicznej, artykuły opublikowane na arXiv w tym tygodniu opisują metody oceny skierowane na ten sam problem. Jeden, złożony 30 września i przyjęty na warsztaty NeurIPS 2026, proponuje politykę alokacji uwzględniającej ryzyko, która odzyskała 86 procent awarii ważonych wpływem przy 50 próbach, w porównaniu z 25 procentami dla alokacji jednostajnej, na przestrzeni 70 scenariuszy lotniczych tau-bench i 824 zarejestrowanych prób.

Nvidia z kolei uruchomiła swoją Open Agent Safety Platform 28 września, otwarty runtime, który owija frameworki agentów w sandboxe na poziomie jądra i rozszerza ochronę na DPUs BlueField-4, z podpisaniem przez 100 organizacji z jej ekosystemu, według ServeTheHome. Tom's Hardware zauważył, że CEO Nvidia Jensen Huang konsekwentnie opiera się narzucanym przez rząd zasadom, przedstawiając bezpieczeństwo jako problem infrastrukturalny.

Żadne z tych wysiłków, co dotąd, nie rozstrzygnęło pytania, które podnoszą zwolnienia w OpenAI: czy personel ds. bezpieczeństwa, który dostrzega problemy w laboratorium, lepiej robi, zgłaszając je wewnętrznie czy na zewnątrz.