OpenAI oskarża Moonshot AI o kampanię destylacji, a otwarte wagi zmniejszają dystans
OpenAI podało 1 października, że przerwało skoordynowaną kampanię wyciągania rozumowania ze swoich modeli. Główny klaster aktywności przypisało osobom związanym z chińskim Moonshot AI, twórcą Kimi. Firma podała, że w ciągu dwóch dni pod koniec lipca aktywność wzrosła do 16 000 zapytań od ponad 4 000 użytkowników.

CNBC podało informację w czwartek, a The Register przejął ją tego samego dnia. Oba serwisy zwróciły uwagę na timing: ujawnienie wypadło w tym samym tygodniu, w którym Anthropic wystąpiło z własnymi oskarżeniami wobec chińskich deweloperów. OpenAI twierdzi, że aktywność zaczęła się na początku lipca i osiągnęła szczyt 24 i 25 lipca. Do 28 lipca firma miała ją całkowicie zatrzymać.
Do żadnego włamania nie doszło.
OpenAI powiedziało CNBC, że operatorzy nie złamali szyfrowania, nie przejęli baz danych ani nie dotarli do zapisanych rozmów użytkowników. Zamiast tego manipulowali interakcjami z modelem tak, by chronione rozumowanie wracało w formie czytelnej dla pytającego. The Register cytuje środowy wpis OpenAI na blogu: „Operatorzy nie złamali naszego szyfrowania, nie przejęli bazy danych ani nie uzyskali bezpośredniego dostępu do zapisanych rozmów użytkowników”.
Co tutaj naprawdę znaczy destylacja
OpenAI nazywa tę technikę „destylacją wrogą”. Sam pomysł nie jest nowy w uczeniu maszynowym: wyniki jednego modelu służą do trenowania lub poprawiania drugiego. OpenAI opisuje wersję na większą skalę. Masowe zapytania mają odtworzyć rozumowanie i możliwości większego modelu, nie tylko jego końcowe odpowiedzi. Firma przekonuje, że wyciągnięcie rozumowania pozwala rywalowi odtworzyć zaawansowane zachowania bez wydawania tych samych pieniędzy na trenowanie i prace nad bezpieczeństwem. Stawia sprawę jako kwestię bezpieczeństwa i bezpieczeństwa narodowego, nie tylko handlową.
The Register napisał wprost, jak to wygląda. W nagłówku z 30 września nazwał skargę OpenAI ironiczną. OpenAI „wciągnął ogromne ilości treści z internetu w trakcie sporów o prawa autorskie”, pisał serwis, a jednocześnie traktuje destylację własnych modeli jako zagrożenie bezpieczeństwa. To najmocniejszy kontrargument w obecnych publikacjach i warto go powiedzieć jasno: ten sam argument o danych treningowych działa inaczej w zależności od tego, kto go używa.
OpenAI przyznaje, że nie wie, czy wszyscy operatorzy należeli do jednego podmiotu. „Główny klaster” przypisuje osobom związanym z Moonshot AI. Moonshot nie odpowiedział od razu na prośby o komentarz ani od CNBC, ani od The Register. The Register pytał też OpenAI, które modele były celem ataku, i nie dostał odpowiedzi. Ten szczegół ma znaczenie, bo waga każdego zarzutu o destylację zależy od tego, co skopiowano.
OpenAI powiedziało w środę: „Destylacja wroga stwarza ryzyko dla bezpieczeństwa i bezpieczeństwa narodowego. Wyciągnięte rozumowanie można wykorzystać do trenowania innego modelu bez zachowania zabezpieczeń stosowanych w oryginalnym modelu wobec użytkowników”.
Szersza walka o otwarte wagi
Oskarżenie wpisuje się w szerszą zmianę w rozmieszczeniu zdolności AI. Modele z otwartymi wagami przeszły od niszowego zwyczaju publikowania do poważnego udziału w ruchu produkcyjnym. Najnowsze branżowe teksty twierdzą, że modele z otwartymi wagami po raz pierwszy przetworzyły większość tokenów AI. Twierdzą też, że rachunki za tokeny pchają obciążenia firm w stronę opcji z otwartymi wagami. Żadnej z tych tez nie zweryfikowano, więc traktujmy je jako kierunek, nie potwierdzoną liczbę.
Weryfikowalne jest to, że presja jest realna. Claude Opus 5.5 od Anthropic, wydany tydzień przed wpisem OpenAI, ma wbudowaną obronę przed destylacją o nazwie „preserved thinking”, wprowadzoną razem z Fable 5.1, podał The Register. To odpowiedź na poziomie produktu na problem na poziomie trenowania. Skoro twórcy modeli wpisują teraz funkcje przeciw wyciąganiu do gotowych produktów, traktują destylację jako stan stały, nie jednorazowy incydent.
Po stronie rządowej też jest ślad. The Register zauważa, że pod koniec lipca Michael Kratsios, doradca prezydenta Donalda Trumpa ds. nauki i technologii, oskarżył Moonshot AI o zbudowanie modelu Kimi K3 przez destylację Fable od Anthropic. To twierdzenie wyprzedza wpis OpenAI o jakieś dwa miesiące i dotyczy modelu innej firmy. Oskarżenia nie ograniczają się do jednego laboratorium ani jednego zdarzenia.
Tymczasem otwarte wagi ciągle dostarczają
Gdy amerykańskie laboratoria spierają się o kopiowanie, ekosystem otwartych wag opublikował w tym tygodniu spory zestaw prac. Dział badawczy Meta udostępnił Context Language Models, metodę, która traktuje kontekst modelu jak plik, który model sam aktualizuje. Repozytorium pochodzi od zespołu z University of Washington, Meta Superintelligence Labs, MIT i Trillium Labs. Raportuje o 11,4% wyższą dokładność przy 21,5% mniejszej liczbie FLOPs na BrowseComp-Plus. Podaje też poprawę o 47,6% dla Qwen3.5-9B na tym samym teście po uczeniu ze wzmocnieniem online, przy 12% mniejszej liczbie FLOPs.
Osobno brytyjski Instytut Bezpieczeństwa AI i Meridian Labs opublikowały Inspect, otwarte ramy ewaluacji modeli frontier. Inspect zawiera ponad 200 gotowych testów. Pozwala uruchamiać dowolne zewnętrzne agenty, takie jak Claude Code, Codex CLI i Gemini CLI, w piaskownicy. To infrastruktura, która czyni niezależne testowanie modeli z otwartymi wagami tańszym. Kłopotliwe dla tych, którzy przekonują, że transfer możliwości trzeba ograniczać.
Jest też wątek wolontariacki. Projekt Coop wstępnie trenuje mały model na oddanym sprzęcie konsumenckim i darmowych planach usług. Pseudo-gradienty trafiają jako pull requesty do Hugging Face i są agregowane przez bezstanowe zadanie cron w GitHub Actions. Pierwszy etap, model o 15 000 000 parametrów na TinyStories, zakończył się po przekroczeniu optymalnego budżetu Chinchilli w sześć dni, a strata walidacyjna spadła z 9,01 do 2,8. To mała skala, bo modele frontier liczą po 9 000 000 000 parametrów i więcej. Projekt jest też dowodem, że pętla trenowania może działać bez centrum danych.
Jest też model nie-transformerowy o nazwie PSSA, napisany od zera w Rust, który deklaruje wnioskowanie w czasie liniowym dzięki rekurencyjnej warstwie przestrzeni stanów i bankowi pamięci epizodycznej. Repozytorium projektu podaje, że generuje tekst około dwanaście razy szybciej niż dopasowany transformer na tym samym procesorze i uczy się szybciej przy tych samych parametrach. Jego potok trenowania nadal zależy od DeepSpeed, co autorzy przyznają. Twierdzenia o wynikach testów traktujmy jako twierdzenia projektu, nie niezależnie zweryfikowane rezultaty.
Dlaczego oskarżenie trudno rozstrzygnąć
Niewygodne jest to, że obie strony mogą wskazać realne zachowania. OpenAI wskazuje 16 000 zapytań w dwa dni od ponad 4 000 użytkowników, wzorzec, który według firmy naruszył warunki korzystania z usługi. Krytycy wskazują rodowód danych treningowych każdego modelu frontier zbudowanego w USA. Żaden z tych faktów nie unieważnia drugiego. Publiczne szczegóły nie rozstrzygają, który model był celem ani ile możliwości faktycznie przeniesiono.
OpenAI podało, że zbanowało konta, zaostrzyło kontrolę rejestracji i infrastruktury, rozszerzyło monitoring i zamknęło ścieżkę, która pozwalała odtworzyć zaszyfrowane rozumowanie innego użytkownika i odzyskać jego treść. Wynikami podzieliło się przez Frontier Model Forum i rządowe kanały wymiany informacji. To konkretne środki zaradcze. Opisują obronę przed wyciąganiem, nie rozwiązanie problemu ekonomii: dopóki destylacja jest tańsza niż trenowanie, ktoś będzie próbował.
Źródła
7- 01AI race heats up as OpenAI flags alleged model-copying campaignEN
- 02Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
- 03Context Language Models (CLMs)EN
- 04Inspect: An open-source framework for large language model evaluationsEN
- 05Coop: A small language model pretrained by volunteersEN
- 06PSSA: A non-transformer language model written from scratch in RustEN
- 07OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.