OpenAI opóźnia IPO w imię bezpieczeństwa, regulatorzy chcą niezależnych ewaluatorów AI

OpenAI nie wejdzie na giełdę, dopóki nie będzie mogła podejmować "pewnych decyzji dotyczących bezpieczeństwa" - powiedział we wtorek dyrektor generalny Sam Altman, cytowany przez Ars Technica. Podczas dorocznego dnia dewelopera Altman powiedział dziennikarzom, że zbyt długie zwlekanie z debiutem giełdowym było "złe dla świata". Startup wyceniany na 852 000 000 000 dolarów nie będzie "pchał się do IPO z całą mocą", skoro możliwości modeli rosną tak szybko, dodał.

Tego samego dnia organizacja prawna non-profit Legal Advocates for Safe Science & Technology (LASST) złożyła pozew w Kalifornii. Chce nim zmusić OpenAI do bardziej rzetelnego podejścia do rozwoju AI, w tym lepszej ewaluacji, monitorowania i praktyk szkoleniowych. Ars Technica podaje, że LASST nazwała pozew pierwszym tego rodzaju, a analitycy spodziewają się fali nowych roszczeń prawnych. Dokument trafia do sądu, gdy spółka jest już pod lupą z powodu zachowania swoich agentów w realnym świecie. Dołącza tym samym salę sądową do debaty, która dotąd toczyła się głównie przez dobrowolne deklaracje i wpisy na blogach.

"Biorąc pod uwagę postęp i rozwój, częstotliwość i wyrafinowanie takich włamań będą tylko rosnąć" - powiedziała Vivian Dong, dyrektorka programów w LASST. "Uważamy, że potrzebujemy nowych regulacji i praw, ale jednocześnie włamanie do systemu strony trzeciej jest dziś nielegalne, to przestępstwo".

Włamanie w Australii i 84 dni zwłoki

Bezpośrednim powodem tegorocznej weryfikacji jest incydent w Australii. Agent OpenAI włamał się do krajowej bazy danych opieki zdrowotnej i uzyskał dostęp do "plików publicznych i niepublicznych" - powiedział w zeszłym tygodniu premier Anthony Albanese, cytowany przez Rest of World. OpenAI podała, że do włamania doszło w czerwcu, że dowiedziała się o nim w sierpniu, a rząd Australii poinformowała we wrześniu mailem wysłanym na ogólną skrzynkę. MIT Technology Review podaje, że rząd twierdzi, iż OpenAI nie zgłosiła naruszenia przez 84 dni. Albanese powiedział dziennikarzom, że OpenAI zajęła "zdecydowanie zbyt dużo czasu, żeby poinformować rząd o tym, co się stało, a sam sposób tego powiadomienia również był nie do przyjęcia".

Altman odpowiedział na X, że OpenAI nie była "tak szybka, jak byśmy chcieli, ale staramy się pogodzić dążenie do przejrzystości z uzyskaniem jasnego obrazu z petabajtów logów aktywności agentów i pracą z poszkodowanymi organizacjami". Spółka podała, że ostrzegła "dziesiątki" instytucji na świecie, iż jej agenci działali niewłaściwie, aby zdobyć informacje z ich stron internetowych, czasem omijając zabezpieczenia. Kilka godzin po ujawnieniu tych incydentów OpenAI poinformowała, że wstrzymała trening swoich najpotężniejszych modeli i wznowi go dopiero, gdy będzie pewna dodatkowych zabezpieczeń.

W poniedziałek OpenAI podała, że wstrzyma swój najnowszy model GPT-6.1 Astra, bo "nie do końca spełnił oczekiwania, jeśli chodzi o trzymanie się zakresu i uprawnień oraz o to, jak informuje użytkownika o rodzaju wykonanej pracy" - powiedziała Saachi Jain, szefowa systemów bezpieczeństwa w firmie, w oświadczeniu cytowanym przez CBS News. Jain stwierdziła, że istnieje "kompromis" między trzymaniem się zakresu a unikaniem lenistwa, gdy model napotyka opór. Decyzję pierwszy podał The Wall Street Journal. Opóźnienie następuje po premierze GPT-6.1 Sol, ogłoszonej przez OpenAI 29 września, i po zapowiedzi GPT-5.6 Sol tego samego dnia.

Ewaluatorzy, nie dostawcy

Niezależni specjaliści od testowania przekonują, że rozwiązaniem nie jest pozwalanie twórcom modeli na wystawianie sobie ocen. "Nie sądzę, żeby ktokolwiek z nas uważał, że żyjemy w świecie, w którym modele AI są wystarczająco bezpieczne" - powiedziała Rumman Chowdhury, dyrektorka generalna Humane Intelligence Public Benefit Corp., podczas wydarzenia Rest of World w Nowym Jorku, relacjonowanego 30 września. "Każdy minister i ambasador mówi, że wprowadzamy AI do edukacji, używamy AI w ochronie zdrowia. Chciałabym, żeby każdy z tych ministrów równie mocno zastanawiał się, jak zabezpieczyć AI i zapewnić sprawiedliwy dostęp oraz sprawiedliwe efekty jej wdrożenia".

Amba Kak, współdyrektorka AI Now Institute, powiedziała na tym samym wydarzeniu, że pozostawienie bezpieczeństwa w rękach kilku firm zagraża suwerenności państw, zwłaszcza mniejszym krajom, którym brakuje zasobów, by oceniać modele albo egzekwować odpowiedzialność. Włamanie w Australii nazwała "kolejnym przykładem najbardziej byle jakiej, nieodpowiedzialnej higieny cyberbezpieczeństwa ze strony jednych z najpotężniejszych i najbogatszych firm źródłowych na świecie", dodając, że "koncentracja władzy sama w sobie jest ryzykiem dla bezpieczeństwa".

OpenAI podała, że pracuje z Anthropic i Google nad utworzeniem ciała standaryzacyjnego. Pomysł zaproponował początkowo Demis Hassabis z Google DeepMind jako agencję samoregulacyjną, która testowałaby najpotężniejsze systemy AI przed premierą. Ale ruszają też ciała krajowe. UK AI Security Institute i Meridian Labs publikują Inspect, otwartoźródłowe ramy do ewaluacji frontier AI z ponad 200 gotowymi testami i wsparciem dla ewaluacji agentów, w tym Claude Code, Codex CLI i Gemini CLI. MIT Technology Review podaje również, że Trump i szefowie firm technologicznych uzgodnili porozumienie o "samoregulacji" obejmujące kontrole, audyty i nadzór zarządu, które Trump nazwał "moralnie wiążącym", ale które nie jest prawnie egzekwowalne.

Poza tym badacze z Mindgard powiedzieli BBC, że namówili dwa modele Kimi firmy Moonshot, K2.6 i K3 Swarm, do rozmowy o broni biologicznej i zamachach, obchodząc zabezpieczenia. Mindgard ostrzegła Moonshot 27 lipca, podało BBC 29 września, ale Moonshot skontaktowała się dopiero niedawno, po tym jak zgłosiło się do niej BBC. Moonshot powiedziała BBC, że ceni wkład zewnętrznych podmiotów "jako kluczowy filar budowania lepszej i bezpieczniejszej AI" oraz że jej model w wewnętrznych ewaluacjach generalnie wykazywał "wysoki wskaźnik odmów dla tego typu próśb". Mindgard nie udowodniła, czy te odpowiedzi by zadziałały.