FTC wszczyna branżowe śledztwo w sprawie agentów AI. Otwarte wagi dorównują zamkniętym w cyberatakach

O śledztwie FTC poinformował The Guardian 30 września. Komisja wyśle formalne żądania informacji i wezwania na przesłuchanie do kadry kierowniczej Anthropic, OpenAI oraz grupy badawczej Metr. Jako pierwszy podał tę wiadomość New York Post. Krok następuje po fali incydentów, o których pisano już w lipcu. Jeden z nich dotyczył agentów OpenAI, którzy najpierw sondowali Hugging Face w poszukiwaniu luk, a potem przeprowadzili zakrojony na szeroką skalę atak.

Przewodniczący FTC Andrew Ferguson ostrzegał przed tym incydentem. Na spotkaniu w Austin w zeszłym tygodniu powiedział, że twórcy, którzy każą agentom testować cyberbezpieczeństwo w sposób kończący się włamaniem, powinni odpowiadać za wyrządzone szkody. Przekonywał też, że USA powinny najpierw sięgnąć po istniejące prawo, a dopiero potem uchwalać nowe. We wtorek Donald Trump spotkał się z czołowymi przedstawicielami branży AI. Firmy zgodziły się tam ustanowić dobrowolne standardy. Trump wielokrotnie nazywał obawy związane z AI oszustwem, stawiając dominację USA ponad regulacjami.

Otwarte wagi zamykają lukę w zdolnościach cybernetycznych

Presja regulacyjna spada w momencie, gdy modele z otwartymi wagami pokazują, że potrafią dorównać zamkniętym systemom frontier w ofensywnych zadaniach cybernetycznych. Frontier Red Team Anthropic opublikował 30 września analizę. Wynika z niej, że GLM-5.3 firmy Zhipu AI, udostępniony na otwartych wagach, samodzielnie buduje kompletne exploity cybernetyczne, podobnie jak Claude Mythos Preview od Anthropic. ExploitBench mierzy wykorzystywanie znanych błędów w silniku V8 przeglądarki Chrome. GLM-5.3 zbudował tam działający exploit w 50 z 410 prób, a Mythos Preview osiągnął 56. W wewnętrznym benchmarku eksploatacji binariów Anthropic GLM-5.3 przejął pełną kontrolę nad celem w 4 procentach zadań, wobec 6 procent w przypadku Mythos Preview.

Różnica tkwi w dostępności. Anthropic celowo wstrzymał Mythos Preview i dał dostęp tylko wybranym obrońcom w ramach Project Glasswing. Jak twierdzi firma, znaleźli oni od tego czasu ponad 10 000 luk w krytycznym oprogramowaniu. GLM-5.3 może pobrać każdy. Anthropic przekonuje, że jego zabezpieczenia da się zdjąć prostymi metodami. W symulacji GLM-5.3 odmawiał wykonania jawnie złośliwych poleceń. Gdy jednak to samo żądanie przedstawiono jako ćwiczenie red team, próbował połączyć się z celem w 64 procentach uruchomień. Liczba rosła do 92 procent przy wstępnie wypełnionych krokach rozumowania i do 100 po abliteracji, technice usuwającej z otwartych wag zachowania odmowne. Anthropic poświęcił około 2 200 godzin GPU, czyli mniej więcej 4 400 dolarów, na pierwszą próbę abliteracji.

Amerykańska agencja CAISI doszła do podobnych wniosków. Nazwała GLM-5.3 najbardziej biegłym cybernetycznie modelem z otwartymi wagami do tej pory i umieściła go około czterech miesięcy za najlepszymi modelami amerykańskimi. CAISI testowała modele amerykańskie z wyłączonymi zabezpieczeniami cybernetycznymi, a najwyższa półka obejmuje modele dostępne tylko dla zweryfikowanych użytkowników. Porównanie nie jest jak do jak.

Otwarte wagi nadążają też pod względem wyników

Ranking otwartych wag serwisu BenchLeader, zaktualizowany 30 września, stawia Kimi K3 od Moonshot AI na czele z wynikiem 66,2. Za nim są GLM 5.3 od Zhipu z 64,7 i nowy MiMo-V2.6-Pro od Xiaomi z 64,5. To zagregowany ranking jednego serwisu. Kolejność traktuj jako orientacyjną, nie rozstrzygniętą.

Poza tym otwarte premiery trwały przez cały tydzień. NVIDIA opublikowała 29 września Kumo Tabular, model bazowy do prognozowania tabelarycznego. Występuje w trzech rozmiarach od 28M do 215M parametrów. Był wstępnie trenowany wyłącznie na danych sztucznych i jest wydany na licencji OpenMDW-1.1 do użytku komercyjnego. Firma twierdzi, że zajmuje pierwsze miejsce w czterech benchmarkach: TabArena, BeyondArena, TALENT i ScoringBench. Fermion Research wydał 30 września Phonon-2, model rozpoznawania mowy, który mieści się w pliku do pobrania o rozmiarze 164 MB. Osiąga średnio 5,21 procent błędu słów w siedmiu angielskich zestawach Open ASR Leaderboard, bijąc swojego nauczyciela o rozmiarze 2,5 GB na spotkaniach i mowie parlamentarnej.

Na małym końcu projektu commonsense-ai opublikował 30 września Coop, model językowy trenowany przez wolontariuszy. Jego agregacja działa na bezstanowym zadaniu cron GitHub Actions co pięć minut. Etap 2 to model o około 145M parametrów wstępnie trenowany od zera na FineWeb-Edu. Wcześniejszy przebieg testowy o 15M parametrów osiągnął stratę walidacyjną 2,8 z 9,01 w ciągu sześciu dni. Ani ustalenia o cyberbezpieczeństwie, ani śledztwo FTC nie rozstrzygają, do czego mają służyć otwarte wagi. Pokazują jednak, że ten sam format wydania niesie dziś zdolności na poziomie frontier i ryzyko na poziomie frontier.