Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Kongresmen z USA pyta OpenAI, Anthropic i trzy inne firmy o kradzież wag modeli

Kongresmen Ro Khanna napisał do szefów OpenAI, Anthropic, Google, Meta i SpaceX. Chce wiedzieć, co wiedzą o próbach kradzieży ich wag modeli przez Chiny lub innych wrogich aktorów. Informację podała agencja Reuters 1 października.

AI i modeleWyjaśnienieMarta ZielińskaOpublikowano: 1 października 20263 min czytaniaŹródła 5
Kongresmen z USA pyta OpenAI, Anthropic i trzy inne firmy o kradzież wag modeli

W listach prosi też każdą firmę o opis środków cyberbezpieczeństwa, którymi blokuje taką kradzież. Podał to The Next Web. Khanna reprezentuje część Doliny Krzemowej i jest czołowym Demokratą w Komisji Specjalnej Izby Reprezentantów ds. Chin.

"Kradzież takiej wagi modelu przez (Chiny) może osłabić przewagę Ameryki w AI jednym uderzeniem w klawiaturę" - napisał, według Reutersa. Firmy i chińska ambasada w Waszyngtonie nie odpowiedziały od razu na prośby Reutersa o komentarz.

Czym właściwie są wagi modeli

Wagi modeli to liczby poznane podczas treningu, dzięki którym model AI działa. Kto je ma, może uruchomić kopię modelu. Dlatego są w centrum sporu między amerykańskimi laboratoriami a ich chińskimi rywalami. Tego samego dnia Khanna napisał do trzech chińskich laboratoriów: DeepSeek, Alibaba i Moonshot AI. Wysłał też kolejny list do amerykańskiej społeczności wywiadowczej z pytaniem, jak podchodzi do ryzyka zaawansowanej AI.

"Nie można ufać miliarderom z Doliny Krzemowej, że napiszą przepisy, które nas ochronią" - powiedział Khanna Reutersowi.

Termin nie jest przypadkowy. OpenAI poinformowało 1 października, że wykryło i przerwało skoordynowaną kampanię wyciągania chronionego rozumowania ze swoich modeli. Główny klaster tej aktywności powiązało z Moonshot AI, twórcą Kimi. Podał to CNBC. Działania zaczęły się na początku lipca, a później w ciągu dwóch dni wzrosły do 16 000 zapytań od ponad 4 000 użytkowników. OpenAI podało, że całkowicie przerwało kampanię do 28 lipca.

OpenAI nazwało tę operację "dystylacją wrogą". To technika, w której wyniki lub rozumowanie jednego modelu służą do trenowania albo ulepszania drugiego. Firma podała, że operatorzy nie złamali jej szyfrowania, baz danych ani zapisanych rozmów użytkowników. Zamiast tego manipulowali interakcjami z modelem tak, by ukryte rozumowanie dało się odtworzyć w formie widocznej dla pytającego. OpenAI przyznało, że nie wie, czy wszyscy operatorzy są powiązani z jednym podmiotem. Wyniki przekazało przez Frontier Model Forum i rządowe kanały wymiany informacji. Moonshot nie odpowiedział od razu na prośby CNBC o komentarz.

Sceptyczna lektura

The Register ujął to ostrzej 30 września. Zauważył, że OpenAI "pochłonęło ogromne ilości treści z internetu w trakcie sporów o prawa autorskie", a teraz opisuje dystylację własnych wyników jako ryzyko dla bezpieczeństwa narodowego. Ten sam tekst cytuje Michaela Kratsiosa, asystenta prezydenta USA Donalda Trumpa ds. nauki i technologii. Kratsios pod koniec lipca oskarżył Moonshot AI, że zbudowało model Kimi K3, dystylując Fable od Anthropic. Claude Opus 5.5 od Anthropic, wydany tydzień temu, ma wbudowaną obronę przed dystylacją o nazwie "preserved thinking".

Ile z tego jest udowodnione, to osobne pytanie. OpenAI i Anthropic oskarżyły chińskie firmy, w tym Moonshot AI i DeepSeek, o dystylację. Ale publicznie znanych przypadków kradzieży wag modeli jest niewiele, zauważa The Next Web.

Uwaga przenosi się też na politykę. Na dniu dewelopera OpenAI 30 września Sam Altman powiedział, że firma nie wejdzie na giełdę, dopóki nie będzie mogła "podejmować pewnych decyzji o bezpieczeństwie". Debiut mógłby wycenić firmę na nawet 1,4 bln dolarów, podało BBC. Trump, spotykając się tego samego dnia z liderami technologii, powtórzył, że firmy AI powinny same się regulować.

Komentarze 0

Źródła

5
  1. 01US lawmaker asks five AI firms how they guard model weights from ChinaEN
  2. 02AI race heats up as OpenAI flags alleged model-copying campaignEN
  3. 03Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  4. 04OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN
  5. 05OpenAI announces 'dots' agent after scrapping launch of new AI model over safety concernsEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.