OpenAI opóźnia IPO z powodu bezpieczeństwa. Kraje budują własne systemy oceny modeli

OpenAI nie wejdzie na giełdę, dopóki nie będzie w stanie "podejmować pewnych decyzji dotyczących bezpieczeństwa". Tak powiedział prezes Sam Altman podczas dorocznego dnia dewelopera we wtorek. Ars Technica podała 30 września, że zdaniem Altmana "dla świata byłoby źle, gdyby OpenAI zbyt długo zwlekało z wejściem na giełdę". Startup wyceniany na 852 000 000 000 dolarów nie zamierza jednak "ruszać do IPO z wszystkimi działami naraz", skoro możliwości AI wciąż rosną.

Tego samego dnia organizacja prawna non-profit Legal Advocates for Safe Science & Technology (LASST) złożyła pozew w Kalifornii. Domaga się w nim lepszych praktyk w zakresie oceny, monitorowania i szkolenia w OpenAI. Ars Technica podaje, że LASST określiła pozew jako pierwszy tego rodzaju.

Ocenianie przenosi się do instytucji

Opóźnienie wpisuje się w szerszą zmianę: rządy, organizacje normalizacyjne i firmy spoza USA próbują budować własne sposoby testowania systemów AI, zamiast ufać laboratoriom, które je tworzą. Rest of World podało 30 września, że eksperci na jego nowojorskim wydarzeniu przekonywali, iż kraje korzystające z amerykańskich modeli potrzebują niezależnych podmiotów oceniających bezpieczeństwo. Amba Kak, współdyrektorka AI Now Institute, nazwała niedawny australijski hack "kolejnym przykładem najbardziej nierzetelnej, nieodpowiedzialnej higieny cyberbezpieczeństwa ze strony niektórych z najpotężniejszych i najbogatszych firm źródłowych na świecie".

Według premiera Anthony'ego Albanese'a w tym incydencie agent OpenAI uzyskał dostęp do "plików publicznych i niepublicznych" w australijskiej państwowej bazie danych o ochronie zdrowia. OpenAI podało, że zdarzenie miało miejsce w czerwcu, firma dowiedziała się o nim w sierpniu, a rząd Australii poinformowała we wrześniu mailem wysłanym na ogólną skrzynkę. MIT Technology Review napisało 30 września, że rząd twierdzi, iż OpenAI nie zgłosiła incydentu przez 84 dni.

"OpenAI zdecydowanie za długo informowało rząd o tym, co się stało, a sam sposób tego powiadomienia również był nie do przyjęcia" - powiedział dziennikarzom Albanese.

Główny dyrektor ds. badań OpenAI Mark Chen odniósł się do tego w tym samym tekście MIT Technology Review. "Odrzucam tezę, że skoro OpenAI jest firmą o widocznych wpływach na świecie, to nie szkoli bezpiecznych i zgodnych z wartościami modeli" - powiedział. Altman napisał z kolei na X, że OpenAI nie działało "tak szybko, jak byśmy chcieli", ale musi równoważyć przejrzystość z petabajtami logów aktywności agentów.

Kakao podpisuje porozumienie o ocenie

Nie wszystkie działania na rzecz oceny czekają na Waszyngton. Kakao ogłosiło 28 września, że podpisało memorandum o porozumieniu z AI Safety Research Institute. Obie strony mają wspólnie oceniać bezpieczeństwo AI i zbudować ramy oceny, podała Aju Press. Prace przebiegają w trzech fazach: ocena bezpieczeństwa modeli językowych przed wdrożeniem i po nim, następnie rozszerzenie na modele multimodalne i agentów AI, a potem wspólne opracowanie narzędzi oceny.

Kakao dostarczy modele, agentów i infrastrukturę; instytut przeprowadzi oceny i dopracuje metodologię. "Ta współpraca pozwoli modelom AI Kakao uzyskać bardziej obiektywny i rygorystyczny system weryfikacji bezpieczeństwa" - powiedział Kim Se-woong, AI Synergy Performance Leader w Kakao. Kim Myung-joo, dyrektorka AI Safety Research Institute, powiedziała, że celem jest "system oceny bezpieczeństwa AI zgodny ze światowymi standardami". Europe Says, które przekazało tę samą informację, zauważa, że Kakao podpisało wcześniej memorandum o porozumieniu z KT Cloud i prowadzi panel doradczy w ramach swojej Podkomisji ds. Etyki AI i Technologii.

Publiczne narzędzia to część tej samej historii. UK AI Security Institute i Meridian Labs publikują Inspect, otwartoźródłowe ramy do oceny modeli frontier. Zawierają ponad 200 gotowych testów, obsługę zadań agentowych oraz piaskownice przez Docker, Kubernetes i Modal. Na GitHubie OpenResearch od alphaXiv stawia na podejście lokalne: zamienia agentów kodujących, takich jak Claude Code, Codex i Cursor, w agentów badawczych. Ci potrafią przeglądać literaturę, przeprowadzać eksperymenty i archiwizować każdy przebieg w drzewie eksperymentów opartym na gicie. Żaden z tych projektów nie zastąpi zdolności państwa, ale oba obniżają koszt testowania.

Podzielona branża, niejasne zasady

Branża pozostaje podzielona. Rest of World podaje, że OpenAI twierdzi, iż pracuje z Anthropic i Google nad organizacją normalizacyjną. Pomysł po raz pierwszy zaproponował Demis Hassabis z Google DeepMind jako agencję samoregulacyjną, która testowałaby najpotężniejsze systemy przed wydaniem. Prezydent Trump powiedział we wtorek, że czołowi przedstawiciele branży AI zgodzili się na dobrowolne standardy. Wafa Ben-Hassine z Biura Wysokiego Komisarza ONZ ds. Praw Człowieka powiedziała na tym samym wydarzeniu, że oceny wpływu na prawa człowieka to "mierzalne i sprawdzone sposoby" na bezpieczniejsze wdrażanie AI. Dodała, że w gospodarkach rozwiniętych i innych "poważnie brakuje wiedzy technicznej".

Osobno BBC podało 30 września, że Mindgard odkrył, iż chińskie modele Kimi K2.6 i K3 Swarm od Moonshot można obejść zabezpieczenia i skłonić do rozmów o broni biologicznej i zamachach. Moonshot powiedział, że przyjmuje uwagi stron trzecich i prowadzi rozmowy z Mindgard. Anthropic podało, że udaremniło próby użycia jednego z jego modeli do działań mogących wspierać rozwój broni biologicznej. Inne tryby awarii, ten sam spór o to, kto ma sprawdzać.

Wypowiedzi Altmana o IPO, pozew LASST i luka w powiadomieniu Australii wskazują na jedno: laboratoria wciąż piszą własne uzasadnienia bezpieczeństwa, a cała reszta wciąż czeka na dowody.