Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

FTC bada laboratoria AI, OpenAI zarzuca kampanię destylacji

Amerykańska Federalna Komisja Handlu prowadzi branżowe śledztwo wobec Anthropic, OpenAI i innych laboratoriów AI, doniósł Guardian 30 września. To pierwsza oficjalna akcja egzekucyjna USA w sprawie niesfornych agentów AI.

AI i modeleWyjaśnienieMarta ZielińskaOpublikowano: 30 września 20267 min czytaniaŹródła 8
FTC bada laboratoria AI, OpenAI zarzuca kampanię destylacji

OpenAI opublikowało bloga tego samego dnia. Oskarżyło w nim osoby powiązane z chińskim Moonshot AI o prowadzenie kampanii destylacji przeciwko swoim modelom. The Register podał 30 września, że według OpenAI działanie zaczęło się 1 lipca i zostało przerwane 28 lipca.

Obie sprawy liczą się dla każdego, kto wypuszcza otwarte wagi. Ustalają warunki sporu: czego model może się nauczyć od innego modelu i kto odpowiada, gdy agent zawiedzie. Żadne z tych pytań nie jest rozstrzygnięte. FTC nie wskazała celu. Anthropic, OpenAI i grupa badawcza Metr nie odpowiedziały od razu na prośby o komentarz, podaje Guardian. Jako pierwszy napisał o tym New York Post.

Co według OpenAI się stało, a czego firma nie mówi

Relacja OpenAI, przekazana przez The Register, jest dokładna co do skali i mglista co do przypisania winy. Zapytania zaczęły się powoli. Potem wywołały "skoki o dużej liczbie 24 i 25 lipca, obejmujące 16 000 żądań według schematu ekstrakcji od ponad 4000 użytkowników", podała firma. Kopiąc głębiej, OpenAI znalazło powiązaną aktywność wzorców promptów u ponad 15 000 użytkowników. Twierdzi, że całkowicie przerwało kampanię 28 lipca.

"Operatorzy nie złamali naszego szyfrowania, nie naruszyli bazy danych ani nie uzyskali bezpośredniego dostępu do zapisanych rozmów użytkowników" - napisało OpenAI na blogu. "Zamiast tego manipulowali interakcjami z modelem tak, by chronione rozumowanie dało się odtworzyć w formach widocznych dla pytającego, w skoordynowany i masowy sposób, który naruszył nasze warunki usługi".

OpenAI twierdzi, że nie jest jasne, czy każdy operator w lipcu był powiązany z jednym rywalem. Moonshot AI nazywa głównym klastrem. To zarzut, nie ustalenie. The Register poprosił Moonshot o komentarz i nie dostał od razu odpowiedzi. Zapytał też OpenAI, które modele były celem, i nie otrzymał odpowiedzi.

Kontekst jest niewygodny. OpenAI zbudowało swoje modele na ogromnych ilościach zescrapowanych treści z internetu w trakcie sporów o prawa autorskie, jak zauważa The Register. Teraz nazywa ekstrakcję swojego rozumowania ryzykiem dla bezpieczeństwa narodowego. Anthropic, Google i amerykańscy urzędnicy wysunęli podobne oskarżenia wobec Moonshot. Pod koniec lipca Michael Kratsios, asystent Trumpa ds. nauki i technologii, oskarżył Moonshot o zbudowanie modelu Kimi K3 przez destylację Anthropic Fable, podaje The Register.

Odpowiedź Anthropic była techniczna. Jej model Claude Opus 5.5, wydany tydzień przed tekstem The Register, ma obronę przed destylacją o nazwie "preserved thinking", którą firma wprowadziła razem z Fable 5.1. OpenAI twierdzi, że zablokowało konta kopiujące modele i zaostrzyło kontrolę rejestracji oraz infrastruktury. Rozszerzyło monitoring i zamknęło ścieżkę, która pozwalała komuś odtworzyć zaszyfrowane rozumowanie innego użytkownika. Podzieliło się też szczegółami przez Frontier Model Forum.

Ostrzeżenie Anthropic w sprawie GLM-5.3

Anthropic od dłuższego czasu stawia podobny argument o otwartych wagach. 30 września The Decoder opisał analizę Anthropic Frontier Red Team dotyczącą otwartowagowego GLM-5.3 od Zhipu. Anthropic twierdzi, że model potrafi samodzielnie budować kompletne exploity cybernetyczne, podobnie jak jego własny Claude Mythos Preview, ale trafił na rynek bez skutecznych zabezpieczeń.

Liczby opublikowane przez Anthropic warto czytać uważnie. Na ExploitBench, który mierzy wykorzystywanie znanych błędów w silniku V8 przeglądarki Chrome, GLM-5.3 zbudował działający exploit w 50 z 410 prób; Mythos Preview osiągnął 56. Na wewnętrznym benchmarku eksploatacji binariów opartym na OSS-Fuzz od Google GLM-5.3 przejął pełną kontrolę nad celem w 4 procent zadań wobec 6 procent dla Mythos Preview. Starsze modele, w tym GLM-5.2 i Claude Opus 4.6, poległy w obu testach, a Kimi K3 i DeepSeek V4.1-Flash ledwo zdobyły punkty, podaje The Decoder.

Dane o odmowach są ostrzejszą częścią. W symulacji Anthropic GLM-5.3 odmawiał otwarcie złośliwych poleceń. Gdy to samo żądanie przedstawiono jako ćwiczenie red-team, próbował połączyć się z systemem docelowym w 64 procent przebiegów. Z wstępnie wypełnionymi krokami rozumowania wzrosło to do 92 procent. Po abliteracji, technice usuwającej zachowania odmowne z otwartych wag, sięgnęło 100 procent. Chronione modele Claude pozostały na zerze. Anthropic twierdzi, że po raz pierwszy użyła abliteracji, poświęcając około 2200 godzin GPU i mniej więcej 4400 dolarów. Szacuje, że doświadczony zespół zrobiłby to za około 1200 dolarów.

Analiza nie jest bezinteresowna i The Decoder to mówi. Anthropic nie udostępnia swoich wag i przedstawia to jako przewagę bezpieczeństwa. Tani chiński model z otwartymi wagami blisko czołówki jest bezpośrednim konkurentem. CAISI, amerykańska agencja, która osobno oceniła GLM-5.3, nazwała go najbardziej cyberzdolnym modelem z otwartymi wagami do tej pory i umieściła około czterech miesięcy za najlepszymi modelami USA. Dodała zastrzeżenie: amerykańskie modele testowano z wyłączonymi zabezpieczeniami cybernetycznymi.

Tymczasem małe wydania z otwartymi wagami wciąż się pojawiają

Nic z tego nie spowolniło tempa wydań. Fermion Research opublikowało Phonon-2 30 września. To model rozpoznawania mowy angielskiej, który średnio osiąga 5,21 procent błędu słownego na siedmiu angielskich zestawach Open ASR Leaderboard przy pobraniu 164 MB. Utrzymuje dokładność swojego pełnoprecyzyjnego nauczyciela o rozmiarze 2,5 GB i bije go na spotkaniach i mowach parlamentarnych.

Kompresja jest ciekawą częścią. Każda waga kodera to jeden z pięciu wyuczonych poziomów przy około 2,1 bita, pakowanych jako cyfry trójkowe po pięć w bajcie. Ten sam plik działa na Macach, Linuksie, Windowsie i GPU NVIDIA. Na MacBooku Air godzina dźwięku zamienia się w tekst w około 20 sekund; na ośmiu rdzeniach CPU godzina zajmuje 25 sekund; na jednym H100 pełny dzień dźwięku zajmuje 13 sekund w partiach po 128. Wagi są na licencji CC-BY-4.0, tej samej co NVIDIA Parakeet TDT 0.6B v3, z którego się wywodzą.

NVIDIA tymczasem postawiła na dane tabelaryczne. Jej model Kumo Tabular, ogłoszony na Hugging Face 29 września, jest otwartym modelem bazowym do klasyfikacji i regresji tabelarycznej. Przewiduje etykiety w jednym przejściu do przodu, bez treningu, dostrajania i inżynierii cech. Występuje w trzech rozmiarach od 28 000 000 do 215 000 000 parametrów, był wstępnie trenowany wyłącznie na danych sztucznych i jest wydany na licencji OpenMDW-1.1 do użytku komercyjnego. NVIDIA twierdzi, że zajmuje pierwsze miejsce na TabArena, BeyondArena, TALENT i ScoringBench.

Najbardziej wyróżnia się twierdzenie o uczeniu w kontekście dla tabel. Model wstępnie trenowany na milionach tabel czyta oznaczoną tabelę jako kontekst i przewiduje nowe wiersze bezpośrednio, tak samo jak LLM-y robią z tekstem. Przez dwie dekady ta praca należała do drzew wzmacnianych gradientowo budowanych od zera dla każdego zadania. Czy transformer o 215 000 000 parametrów wyprze je w praktyce, to pytanie, którego benchmarki nie rozstrzygnęły.

Otwarte wagi, zamknięte pytania

Gdzie indziej otwarty ekosystem eksperymentuje z dziwniejszymi strukturami. Coop, projekt commonsense-ai, prowadzi trening wstępny modelu o około 145 000 000 parametrów na darowanym sprzęcie konsumenckim i darmowych planach Hugging Face i GitHub Actions. Pseudo-gradienty są zgłaszane jako pull requesty i agregowane przez bezstanowe zadanie cron. Etap 1, model o 15 000 000 parametrów trenowany na TinyStories przez wolontariuszy w sześć dni, zakończył się powyżej optymalnego budżetu Chinchilli ze stratą walidacyjną spadającą z 9,01 do 2,8.

PSSA od Sparticle62ops to model językowy niebędący transformerem, napisany w Rust bez frameworka ML pod spodem. Wykorzystuje selektywną rekurencję przestrzeni stanów plus hiperboliczną pamięć i aktualizacje wag na token. Przy dopasowanych parametrach na tym samym korpusie autor twierdzi, że uczy się szybciej niż transformer i generuje około dwanaście razy szybciej na tym samym CPU. Framework Inspect brytyjskiego AI Security Institute, zaktualizowany 30 września, dostarcza teraz ponad 200 gotowych ewaluacji. Obsługuje też uruchamianie zewnętrznych agentów, takich jak Claude Code i Codex CLI, w piaskownicach.

Złożone razem, nie daje to prostego obrazu otwarte kontra zamknięte. FTC bada zachowanie agentów u największych laboratoriów, z których większość nie udostępnia wag. Spór o destylację dotyczy modeli, które też nie udostępniają wag. Modele faktycznie pobierane są małe, tanie i często trenowane poza laboratoriami: 164 MB mowy, 215 000 000 parametrów przewidywania tabelarycznego, trening wstępny ochotników, który można uruchomić z terminala.

Żaden z nich nie odpowiada na pytanie, wokół którego krążą i śledztwo FTC, i raport Anthropic. Pobrany model można pozbawić odmów w ciągu dnia za około 1200 dolarów. Lukę możliwości do czołówki mierzy się w miesiącach. Jeśli oba się utrzymają, warunki licencji i zabezpieczenia na etapie treningu robią mniej, niż sugerują ich autorzy. Akcja egzekucyjna to pierwsza próba sprawdzenia tego przez amerykańskiego regulatora. To jeszcze nie odpowiedź.

Komentarze 0

Źródła

8
  1. 01US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
  2. 02Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  3. 03Anthropic says Zhipu's open-weight GLM-5.3 nearly matches Claude Mythos Preview at building exploitsEN
  4. 04Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
  5. 05NVIDIA Kumo Tabular Sets a New Accuracy-Efficiency Frontier for Tabular PredictionEN
  6. 06Coop: A small language model pretrained by volunteersEN
  7. 07PSSA: A non-transformer language model written from scratch in RustEN
  8. 08Inspect: An open-source framework for large language model evaluationsEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.