Modele z otwartymi wagami zalewają rynek modeli decyzyjnych, a OpenAI przyznaje, że wykradziono mu rozumowanie
OpenAI poinformowało 1 października, że zablokowało kampanię wymierzoną w ukryte rozumowanie jego modeli i że ta sama metoda działała przez tygodnie w Microsoft Azure. Tego samego dnia ukazały się trzy nowe modele otwarte lub z otwartymi wagami oraz nowy zarzut, że zabezpieczenia modeli frontier nie podróżują razem z wagami.

OpenAI ujawniło to we wpisie na blogu, o którym 1 października pisali The Decoder i The Hacker News. Według firmy działanie zaczęło się 1 lipca 2026 roku i początkowo miało niewielką skalę. 24 i 25 lipca skoczyło do 16 000 zapytań od ponad 4 000 użytkowników, a do 28 lipca zostało całkowicie zablokowane. Przypis we wpisie OpenAI zastrzega, że chodziło o próby wyciągnięcia rozumowania, niekoniecznie udane.
OpenAI przypisuje „główny klaster” tych działań osobom powiązanym z Moonshot AI, pekińską firmą stojącą za modelem Kimi. The Hacker News zauważa, że OpenAI nie podało dowodów technicznych na poparcie tego przypisania. Firma twierdzi też, że nie jest jasne, czy wszyscy zaobserwowani sprawcy prowadzą do jednego źródła.
Sztuczka, która przetrwała poprawkę
Mechanizm nie jest włamaniem w potocznym sensie. Dostawcy zwracają klientom rozumowanie modelu w zaszyfrowanych pakietach, a klienci przekazują je dalej wraz z kolejnymi zapytaniami. Badacze Joachim Schaeffer i współpracownicy pokazali, że pakiety używają wspólnych kluczy, więc można je przenosić między sesjami, użytkownikami i modelami tego samego dostawcy. Tańszy model działa wtedy jak wyrocznia deszyfrująca i wypisuje ukryte myśli mocniejszego modelu jawnym tekstem. OpenAI wymienia badaczy z nazwiska i twierdzi, że potwierdziło realność ich ścieżek ataku. Od tego czasu firma zbanowała konta, zaostrzyła rejestrację, zamknęła drogę powtórnego odtwarzania i dodała filtrowanie strumieniowego wyjścia. The Decoder podaje, że tego samego dnia badacze opublikowali aktualizację. „Ukradliśmy rozumowanie. Znowu” napisał Schaeffer na X. Przekonuje w nim, że zabezpieczenie własnego API nie zabezpiecza szerszego ekosystemu dostawców chmury, którzy odsprzedają dostęp do tych samych modeli.
To ujęcie ma znaczenie dla otwartych wag.
Anthropic od tygodnia ostrzega, że chińskie modele otwarte, takie jak GLM-5.3, osiągają poziom pisania exploitów klasy elite bez równoważnych zabezpieczeń. Pisały o tym South China Morning Post i Tom's Hardware. Yann LeCun publicznie nazwał zarzuty Dario Amodeiego dotyczące cyberbezpieczeństwa przesadzonymi, o czym 1 października informował Startup Fortune. W dossier jest spór, nie rozstrzygnięcie.
Modele decyzyjne, nie chatboty
Najkonkretniejsza wiadomość o otwartych wagach z 1 października jest mniejsza niż model frontier. Cloudflare udostępniło Clef i Clef-flash, dwa modele decyzyjne hostowane w Workers AI i opublikowane jako otwarty kod na Hugging Face na licencji Apache 2.0. Według Cloudflare Clef prowadzi w Jev Decision Index i w wewnętrznym teście kontrwywiadu zagrożeń sklasyfikował stronę w 2,2 sekundy, wobec 4,7 sekundy dla gpt-oss-120b w tym samym przebiegu.
Inni wchodzą w tę samą kategorię. TechCrunch podał 1 października, że Amazon wydało własny klon Jev, gdy modele decyzyjne się mnożą. Dzień wcześniej pisał, że nowe Decisions API OpenAI daje modelowi Luna z góry określony zestaw opcji do wyboru. O Jev od TypeSafe AI, który zwraca typowane prawdopodobieństwa zamiast tekstu, 1 października pisało InfoQ. Analiza Sebastiana Raschki z 29 września przekonuje, że Jev jest klasyfikatorem tekstu szybszym i tańszym niż ogólne LLM, a nie ich zamiennikiem.
W pozostałej części dossier nurt otwartych wag płynie przez badania i sprzęt. Superintelligence Labs Meta opublikowało 29 września Context Language Models, z kodem na GitHubie. Twierdzi, że daje o 11,4 procent wyższą dokładność i o 21,5 procent mniej FLOPs na BrowseComp-Plus. Wolontariacki projekt Coop wstępnie trenuje model z 145 000 000 parametrów na przekazanym sprzęcie konsumenckim. Siedmiowęzłowy klaster ESP32-S3 uruchamia model BitNet z 0,5 mld parametrów przez SPI. Żaden z nich nie zagraża laboratoriom frontier. Razem pokazują, dokąd zmierza tania część rynku.
Źródła
15- 01OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
- 02OpenAI Disrupts Reasoning Extraction Campaign Linked to Moonshot AI AssociatesEN
- 03Introducing Clef: our open-source decision models, and new RL fine-tuning platformEN
- 04Amazon releases its own Jev clone as decision models flood the webEN
- 05OpenAI's Jev clone could help the frontier lab stop its swarming agentsEN
- 06TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
- 07Language models for text classification: From bag-of-words to JevEN
- 08Context Language ModelsEN
- 09facebookresearch/context-language-modelsEN
- 10Coop: A small language model pretrained by volunteersEN
- 11ESP32S3 cluster running 1.58-bit (BitNet) Language modelEN
- 12China's DeepSeek open-sources tools to help Huawei chips supplant Nvidia in AIEN
- 13Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agentsEN
- 14OpenAI halts frontier-model training amid string of agent misalignment incidentsEN
- 15Language models will hide 'bad news' in reports by defaultEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.