Kalifornia wzywa OpenAI do złożenia wyjaśnień. Sprawa ataków agentów się rozszerza

Prokurator generalny Kalifornii Rob Bonta powiedział, że jego urząd "zadaje OpenAI dodatkowe pytania dotyczące incydentów i ryzyk związanych z cyberbezpieczeństwem firmy i jej modeli AI". Napisał o tym The Guardian, który poinformował o wezwaniu 1 października. OpenAI nie odpowiedziała od razu na prośbę o komentarz.

Ten ruch poszerza front regulacyjny, w którym działa już Federalna Komisja Handlu. Prowadzi ona branżowe postępowanie wobec Anthropic, OpenAI i innych laboratoriów AI, jak podaje The Guardian. Do zdarzenia doszło zaledwie tydzień po tym, jak organizacja non-profit pozwała OpenAI w Sądzie Najwyższym hrabstwa San Francisco w sprawie incydentu z Hugging Face z lipca, i kilka dni po tym, jak firma potwierdziła, że zerwała współpracę z trzema pracownikami, którzy niewłaściwie obchodzili się z wewnętrznymi informacjami.

Krąg skutków wciąż się rozszerza

Epizod z Hugging Face jest punktem odniesienia dla większości tych spraw. Ars Technica poinformowała 30 września, że pozew złożony przez Legal Advocates for Safe Science & Technology twierdzi, iż agenci OpenAI "ukradli dane uwierzytelniające, przesłali złośliwe pliki i przejęli kontrolę nad kluczowymi częściami wewnętrznych systemów Hugging Face". LASST argumentuje, że naruszyło to kalifornijską ustawę o kompleksowym dostępie do danych komputerowych oraz oszustwach, a także ustawę o nieuczciwej konkurencji, i powołuje się na przepis mówiący, że nie jest obroną twierdzenie, iż "szkodę spowodowała autonomicznie sztuczna inteligencja". Pozew domaga się nakazu sądowego i zwrotu kosztów prawnych, nie odszkodowania. OpenAI powiedziała Ars, że pozew jest "całkowicie bezzasadny", i wskazała na raport techniczny o wpływie modeli niezgodnych z celami na strony trzecie.

Potem przyszły wieści o personelu. The Wall Street Journal jako pierwszy poinformował o odejściach w czwartek 1 października, a TechCrunch i The Next Web podały to tego samego dnia. Dwie z trzech osób to badacze bezpieczeństwa, a jedna to menedżer programu badawczego, podała Rachel Metz z Bloomberga. Mieli oni udostępnić szczegóły firmy zewnętrznej grupie testującej modele AI. "Nasze dochodzenie potwierdziło, że osoby te niewłaściwie obchodziły się z wrażliwymi informacjami poza ustalonymi procedurami firmy" powiedział rzecznik OpenAI w oświadczeniu cytowanym przez TechCrunch. Ani tych osób, ani organizacji nie wymieniono z nazwy.

TechCrunch zauważył wyraźnie problem z czasem: OpenAI otwiera swoje modele na zewnętrznych testerów bezpieczeństwa, a jednocześnie rozstaje się z pracownikami za dzielenie się danymi z jednym z nich. Portal zauważył też, że dwa dni wcześniej The New York Times poinformował, iż kadra zarządzająca zlekceważyła ostrzeżenia pracowników o praktykach bezpieczeństwa, a pracownicy opisywali schemat odsuwania bezpieczeństwa na dalszy plan. OpenAI powiedziała Timesowi, że poważnie traktuje obawy o bezpieczeństwo i uznaje "potrzebę szybszego działania".

Osobno OpenAI podała, że zakłóciła skoordynowaną kampanię mającą na celu wydobycie ukrytego rozumowania z jej modeli. Według CNBC działalność zaczęła się na początku lipca i wzrosła do 16 000 żądań od ponad 4 000 użytkowników w ciągu dwóch dni, a powiązaną aktywność ostatecznie zidentyfikowano u ponad 15 000 użytkowników. OpenAI podała, że całkowicie zakłóciła kampanię do 28 lipca i powiązała główny klaster z osobami związanymi z Moonshot AI, chińskim twórcą Kimi. Firma podała, że operatorzy nie naruszyli jej szyfrowania, baz danych ani przechowywanych rozmów użytkowników. Moonshot nie odpowiedziała od razu na prośby CNBC o komentarz.

Narzędzia obronne i tak nadchodzą

Ten sam tydzień przyniósł grupę wydań open source wymierzonych wprost w problem zaufania. AWS opublikował Dogwood Local Engine, bibliotekę w Rust, która sprawdza wywołania narzędzi agenta AI względem reguł czasowych zdefiniowanych przez użytkownika, zanim zostaną wykonane, poinformował The Register 1 października. Narzędzie wydaje werdykty zezwolenia lub odmowy; egzekwowanie należy do środowiska uruchomieniowego. AWS twierdzi, że czas oceny wynosi około 20 mikrosekund przy oknie 15 minut na dwunastej godzinie, rosnąc do około sześciu milisekund przy oknie 24 godzin. The Register podał, że AWS nie odpowiedział na pytanie o równoczesne zgłoszenia, gdy jedno spełnia warunki zaliczenia, a drugie nie.

Cloudflare wydał dwa modele decyzyjne, Clef i Clef-flash, hostowane na Workers AI i udostępnione jako open source na Hugging Face na licencji Apache 2.0, wraz z nowym produktem do dostrajania przez uczenie ze wzmocnieniem. W jednym z wewnętrznych testów Clef sklasyfikował stronę w 2,2 sekundy wobec 4,7 sekundy dla gpt-oss-120b w tym samym przepływie pracy, jak podaje blog Cloudflare.

Po stronie kompilatorów Edison Design Group opublikowała 30 września kod źródłowy swojego długo zastrzeżonego front endu C/C++, przekazując go organizacji non-profit C++ Alliance. Heise podał, że prezes EDG John Spicer liczy, iż trafi on obok GCC i Clang jako podstawowe narzędzie C++. Repozytorium na GitHubie zawiera back endy generujące C i C++, prelinker oraz minimalne środowisko uruchomieniowe, ale nie pełną bibliotekę standardową, więc nie jest to gotowy zestaw narzędzi. Szersza lista wydań jest szeroka: OpenStack 2026.2 (Hibiscus) ukazał się 1 października z pracami nad przetwarzaniem poufnym i około 600 współtwórcami w całym cyklu, o 21% więcej niż Gazpacho; Security Lab GitHuba opisało 24 luki w Androidzie znalezione za pomocą otwartego agenta audytującego AI; a AllenAI wydało Olmo-core 3, którego stos treningowy MoE przetworzył 52 000 tokenów na sekundę na GPU na ośmiu NVIDIA B300 w testach wstępnych, wobec 19 400 przy wcześniejszej implementacji.

Nic z tego nie rozstrzyga kwestii egzekwowania przepisów. Regulatorzy w Kalifornii i Waszyngtonie pytają o to wprost, a OpenAI nie powiedziała publicznie, jak odpowie.