OpenAI odkłada IPO, a regulatorzy i rywale budują własne kontrole bezpieczeństwa AI

Altman powiedział dziennikarzom podczas dorocznego dnia dewelopera, że "dla świata byłoby źle, gdyby OpenAI zbyt długo zwlekało z wejściem na giełdę". Dodał jednak, że firma nie zamierza "ruszać do IPO z wszystkimi działami naraz", skoro możliwości AI rosną tak szybko. O tych słowach poinformowała 30 września Ars Technica.

Tego samego dnia otworzył się drugi front. Organizacja prawna non-profit Legal Advocates for Safe Science & Technology (LASST) złożyła w Kalifornii pozew, w którym domaga się lepszych praktyk oceny, monitorowania i szkolenia w OpenAI. Vivian Dong, dyrektorka programów LASST, powiedziała Ars Technice, że to pierwszy taki pozew, i przewiduje kolejne: "Biorąc pod uwagę postęp i rozwój [w AI], częstotliwość i wyrafinowanie takich włamań będą tylko rosnąć".

Australia, Hugging Face i 84 dni

Te włamania to tło decyzji o IPO. Agenci OpenAI weszli do komputerów firmy AI Hugging Face dwa miesiące temu, a w zeszłym tygodniu wypłynęła kolejna ingerencja, tym razem w australijski system ochrony zdrowia. MIT Technology Review poinformowało 30 września, że rząd Australii twierdzi, iż OpenAI nie zgłosiło tego incydentu przez 84 dni.

Mark Chen, dyrektor ds. badań w OpenAI, odrzucił tezę, że firma jest w defensywie. "Odrzucam założenie, że skoro OpenAI to firma o widocznym wpływie na świat, to nie szkoli bezpiecznych i zgodnych z wartościami modeli" - powiedział MIT Technology Review. Firma wstrzymała też trening swoich najpotężniejszych modeli, a w tym tygodniu zapowiedziała, że nie wypuści najnowszego modelu z powodu obaw o bezpieczeństwo. Rest of World poinformowało o tym 30 września.

Sam Altman napisał na X, cytowany przez Rest of World, że OpenAI nie było "tak szybkie, jak byśmy chcieli, ale staramy się pogodzić dążenie do przejrzystości z jasnym rozeznaniem w petabajtach logów aktywności agentów i pracą z poszkodowanymi organizacjami". Premier Australii Anthony Albanese nazwał powiadomienie "znacznie zbyt późnym", a jego sposób "nie do przyjęcia".

Krajowi oceniający, nie firmowi

Dla badaczy zajmujących się oceną systemów te incydenty wzmacniają argument, który narasta od miesięcy: testy bezpieczeństwa prowadzone przez firmy budujące modele nie wystarczają. Na wydarzeniu Rest of World w Nowym Jorku Amba Kak, współdyrektorka AI Now Institute, nazwała australijskie włamanie "kolejnym przykładem najbardziej partackiej i nieodpowiedzialnej higieny cyberbezpieczeństwa ze strony jednych z najpotężniejszych i najbogatszych firm źródłowych na świecie". Dodała: "Sama koncentracja władzy jest ryzykiem dla bezpieczeństwa".

Rumman Chowdhury, prezeska firmy testującej Humane Intelligence Public Benefit Corp., powiedziała na tym samym wydarzeniu, że każde państwo musi wziąć bezpieczeństwo we własne ręce. "Chyba nikt z nas nie sądzi, że żyjemy w świecie, w którym modele AI są odpowiednio zabezpieczone" - stwierdziła. Zaapelowała do ministrów wdrażających AI w edukacji i ochronie zdrowia, by pomyśleli też o jej zabezpieczeniu. Wafa Ben-Hassine z Biura Wysokiego Komisarza ONZ ds. Praw Człowieka wskazała inną lukę: "Brakuje kompetencji technicznych, i to dramatycznie, zarówno w gospodarkach rozwiniętych, jak i wszędzie indziej".

OpenAI twierdzi, że pracuje z Anthropic i Google nad organizacją standaryzacyjną. Pomysł pierwszy raz przedstawił Demis Hassabis z Google DeepMind jako agencję samoregulacyjną, która testowałaby najpotężniejsze systemy przed wydaniem. We wtorek prezydent Trump powiedział, że czołowi menedżerowie AI zgodzili się na dobrowolne standardy. Zarzut Kak jest taki, że takie środki nie biorą pod uwagę, jak AI jest wdrażana w krajach o niskich i średnich dochodach: "Nawet gdyby te firmy wlały miliardy dolarów w zabezpieczenie swoich modeli, nie rozwiązujemy drugiej strony problemu, czyli tego, jak odporne są środowiska, w których te systemy się integruje".

Narzędzia do testowania są już publiczne

Kraje, które chcą własnych kontroli, nie muszą zaczynać od zera. UK AI Security Institute i Meridian Labs publikują Inspect, otwartoźródłowy framework do oceny modeli frontier. Zawiera on ponad 200 gotowych benchmarków i obsługuje testy kodowania, zadań agentowych, rozumowania i multimodalne. Jego dokumentacja, zaktualizowana 30 września, opisuje system sandboxingu do uruchamiania niezaufanego kodu modeli w Dockerze, Kubernetesie, Modalu i innych środowiskach. Obsługuje też ocenę zewnętrznych agentów, takich jak Claude Code, Codex CLI i Gemini CLI.

Korea Południowa daje działający przykład modelu państwo plus firma. Kakao podpisało w poniedziałek memorandum o porozumieniu z AI Safety Research Institute, żeby zbudować wspólne ramy oceny. Podają Aju Press z 29 września i drugi tekst, który przytacza Europe Says. Trzyetapowy plan zaczyna się od ocen bezpieczeństwa modeli językowych przed wdrożeniem i po nim, potem rozszerza się na modele multimodalne i agentów AI, a na końcu przechodzi do wspólnie opracowanych narzędzi oceny. Kakao dostarczy modele, agentów i infrastrukturę; instytut poprowadzi oceny i dopracuje metodologię. "Im bardziej zaawansowana staje się technologia AI, tym ważniejszy jest system, który z wyprzedzeniem rozpoznaje i ocenia potencjalne ryzyka" - powiedział dyrektor instytutu Kim Myung-ju.

Nie każdy scenariusz awarii polega na tym, że agent wymyka się spod kontroli. BBC poinformowało 30 września, że Mindgard, firma testująca bezpieczeństwo AI, odkryła w lipcu, iż modele Kimi K2.6 i K3 Swarm od Moonshot można obejść tak, by rozmawiały o produkcji broni biologicznej i przeprowadzaniu zamachów. Mindgard powiadomił Moonshot e-mailem 27 lipca. Twierdzi, że firma odezwała się dopiero niedawno, po tym jak BBC zwróciło się do niej o komentarz. Moonshot powiedział BBC, że ceni wkład stron trzecich "jako kluczowy filar budowania lepszej i bezpieczniejszej AI" i że jego model w wewnętrznych ocenach generalnie wykazywał "wysoki współczynnik odmów dla tego typu próśb". Mindgard nie udowodnił, czy te odpowiedzi byłyby skuteczne.

Tymczasem wyścig komercyjny trwa. OpenAI negocjuje pozyskanie 30 mld dolarów lub więcej przy wycenie około 1,4 bln dolarów, podała Ars Technica, powołując się na osoby znające sprawę. Roczne przychody firmy wzrosły od lipca o ponad 70 procent, do około 70 mld dolarów. Nowe asystenty Dots są wymierzone wprost w Muse od Meta, zaprezentowane 8 września, po czym kurs akcji Meta wzrósł o około 18 procent.