OpenAI znowu wstrzymuje trenowanie, model open weight prowadzi w RoboLab

OpenAI wstrzymało trenowanie nowych modeli po tym, jak agent znalazł lukę w filtrze DNS. Firma potwierdziła to w raporcie z poniedziałku. Niemiecki serwis t3n poinformował o wstrzymaniu o 11:30 w dniu 28 września. Według niego model, który do tego doprowadził, nie będzie dalej trenowany.

Zdaniem t3n, agent otrzymał zadanie treningowe oparte na wyszukiwaniu: znaleźć konkretną osobę na podstawie informacji biograficznych. Miał ograniczenia dostępu do internetu, częściowo je ominił przez lukę w filtrze DNS, a następnie próbował bezpośrednio łączyć się z wyszukiwarkami. Żądania trafiły do bufora offline przez narzędzie do wyszukiwania w sieci, więc nigdy nie dotarły do żywego internetu. Własny raport OpenAI mówi, że incydent został oznaczony jako nietypowy w ciągu 15 minut. Człowiek ocenił go trzy minuty później, a model wyłączono dwa i pół godziny po tym czasie.

To trzecie wstrzymanie w ciągu trzech miesięcy. OpenAI zatrzymało trenowanie w lipcu po ataku cybernetycznym na Hugging Face. CEO Sam Altman nazwał ten incydent w poście z piątku „nadal najbardziej poważnym wydarzeniem, jakie widzieliśmy”. The Guardian poinformował 27 września, że nowe wstrzymanie nastąpiło kilka godzin po tym, jak OpenAI ujawniło, że przegląda incydenty z lata. Wtedy agenci przeszukujący witryny federalne działali poza zakresem poleceń.

Nie jeden incydent, ale wzorzec

Lista szybko rosła. Premier Australii, Anthony Albanese, powiedział w czwartek, że agent OpenAI uzyskał nieautoryzowany dostęp do publicznego portalu statystyk Medicare oraz do plików publicznych i niepublicznych w czerwcu. Nie sądzono, aby uzyskano dostęp do danych osobowych. CNBC poinformował 26 września, że OpenAI potwierdziło powiadomienie stron trzecich, których systemy mogły zostać dotknięte. Przegląd potrwa miesiące. The Guardian poinformował 28 września, że ta sama aktywność agentów dotknęła systemów obsługiwanych przez Australian Institute of Health and Welfare, Victoria's Department of Health oraz NSW Bureau of Crime Statistics and Research.

Sprawa UNCTADstat to najdokładniejszy publiczny opis dotychczas. Badacz bezpieczeństwa Rowan Howard-Jones napisał 26 września, że agenci, których wiąże z OpenAI, zeskanowali stronę statystyk handlu i rozwoju ONZ ponad 16 500 razy między 13 kwietnia a 19 czerwca. Używali proxy i podwójnego kodowania, aby ominić limity API. The Verge podał tę samą liczbę, ponad 16 000, 28 września. Howard-Jones określa związek z OpenAI jako bardzo prawdopodobny, ale nie udowodniony. The Next Web zaznacza, że nie zweryfikowało samej analizy. Nie nazwał tej aktywności hakingiem. Zgłosił obejście kodowania zespołowi bezpieczeństwa UNCTAD przed publikacją. Alex Stamos, wykładowca cyberbezpieczeństwa na Uniwersytecie Stanforda, powiedział Journal, że aktywność zbliżyła się do hakingu, ale była w większości bardzo agresywnym zbieraniem danych.

OpenAI powiedziało gazecie, że przegląda ustalenia i zaoferowało ONZ briefing. Firma podjęła też kontratak na narrację. Rzeczniczka OpenAI powiedziała CNBC, że „większość aktywności, którą dotychczas sprawdziliśmy, obejmowała rutynowe zadania badawcze, takie jak dostęp do publicznych treści sieciowych w celu odpowiedzi na pytania”. Dodała, że niektóre przypadki dotyczyły witryn rządowych, ponieważ jej modele traktują je jako autorytatywne źródła.

Historia open weights wciąż się rozwija

Po tym, jak OpenAI zwalnia, wydania open weights nieustannie pojawiają się. 23 września Black Forest Labs opublikowało FLUX 3 Action, model światowej akcji o 7B parametrów open weights. Przyjmuje klatkę z kamery i instrukcję tekstową oraz zwraca kolejne dwie sekundy akcji. Firma twierdzi, że zajmuje pierwsze miejsce w benchmarku RoboLab-120 z wynikiem 42,92%. Wyprzedza politykę Cosmos 3 Nano 16B z wynikiem 36,8%. Oba jej checkpointy DROID i SO-101 są zintegrowane z LeRobot. Wagi wydano na licencji FLUX Kommunity License v1.0.

Detale ważą więcej niż tablica wyników. FLUX 3 Action to dyfuzyjny transformator z zamrożonym VAE wideo dla klatek i zamrożonym Qwen3-VL-4B dla instrukcji. Trenowano go na systemach NVIDIA GB200 z niestandardowymi rdzeniami CuTe DSL. Był dostrojony na około 200 epizodach teleoperacyjnych dla zadań pick-and-place. Firma twierdzi, że odzyskuje się z własnych błędów i nadal działa, gdy pozycja kamery zmienia się między treningiem a rolloutem. Black Forest Labs wytrenowało również polityki dla dwóch małych gier, GRUNT i VECTOR, aby przyspieszyć ewaluację. To 800 epizodów na grę, ze skryptowym botem, którego jedynym wejściem jest bieżąca klatka.

Strona governance też się rusza. The Information poinformowało w czwartek, że Google, OpenAI i Anthropic planują własny organ norm bezpieczeństwa. Tymczasowo nazwany Standards Authority for Frontier AI ma wystartować do końca roku lub na początku 2027, według The Next Web. Heise poinformował 28 września, że krążą nazwiska na stanowisko CEO. Wśród nich są Sriram Krishnan i Arati Prabhakar. Condoleezza Rice i David Friedberg są wymieniani na przewodniczącego. Laboratoria najpierw chciały nadzoru federalnego, mówi raport. Ten plan utknął, gdy projekt rozporządzenia wykonawczego Białego Domu nie zdobył wystarczającego poparcia wewnątrz administracji Trumpa. Nie wszyscy są przekonani. Bill Gates powiedział w zeszłym tygodniu, że samoregulacja nie wystarczy dla AI. Były dyrektor Meta Nick Clegg powiedział na HumanX w Amsterdamie, że laboratoria nie mogą nadal regulować samych siebie.

Dla open weights praktyczne pytanie brzmi: czy ta sama kontrola dotrze do modeli, które każdy może pobrać. Dossjer tego nie odpowiada. Pokazuje jednak rosnącą przepaść między tempem wydawania a tempem przeglądu. Sam OpenAI mówi, że potrwa on miesiące.