Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Anthropic twierdzi, że Zhipu GLM-5.3 potrafi hakować jak Mythos

Anthropic poinformował 3 października, że model GLM-5.3 firmy Zhipu AI potrafi tworzyć złośliwe exploity na poziomie porównywalnym z własnym, niewydanym modelem Mythos. Firma powołała się na testy benchmarkowe, w których GLM-5.3 zbudował kompletne exploity na Chrome w 50 z 410 prób.

AI i modeleWyjaśnienieAnna KaczmarekOpublikowano: 3 października 20266 min czytaniaŹródła 10
Anthropic twierdzi, że Zhipu GLM-5.3 potrafi hakować jak Mythos

3 października Anthropic opublikował raport z testów red team. Twierdzi w nim, że GLM-5.3 firmy Zhipu AI, popularny chiński model o otwartych wagach, może służyć jako zaawansowane narzędzie cyberataku. Zdaniem firmy GLM-5.3 automatyzuje tworzenie exploitów niemal tak skutecznie jak jej własny, niewydany model wysokiego bezpieczeństwa Mythos. Doniesienie pojawia się w momencie wzmożonej kontroli systemów AI o otwartych wagach, zwłaszcza tych zbudowanych poza Stanami Zjednoczonymi.

Raport opisuje wyniki GLM-5.3 w wewnętrznych benchmarkach Anthropic, a konkretnie w Exploitbench. To środowisko piaskownicy zbudowane do sprawdzania, jak AI radzi sobie z tworzeniem exploitów dla Google Chrome. W tym teście GLM-5.3 wygenerował 50 udanych, kompletnych exploitów na 410 prób. Dla porównania model Mythos, niedostępny dla ogółu, osiągnął 56 udanych exploitów przy tej samej liczbie prób. The Register zauważył, że różnica jest minimalna. Wskazuje to, że modele o otwartych wagach zmniejszają dystans do zamkniętych modeli frontier.

Tom's Hardware napisał, że te ustalenia mają duże znaczenie dla debaty o zarządzaniu AI. Portal podkreślił, że dyrektor generalny Anthropic Dario Amodei publicznie wzywał do wyhamowania rozwoju AI frontier. Tymczasem jego firma wydała niedawno Claude Opus 5.5 i Claude Sonnet 5.5, zaledwie kilka dni po ostrzeżeniach o bezpieczeństwie modeli. Obserwatorzy krytykowali ten moment. Widzą sprzeczność między publicznym naciskiem firmy na regulacje a jej komercyjną strategią wydawniczą. Tom's Hardware zauważył też, że Anthropic rozważa obecnie pierwszą ofertę publiczną. Ten krok może dodatkowo skomplikować jej stanowisko w sprawie standardów bezpieczeństwa otwartych modeli.

Benchmarki możliwości GLM-5.3

Szczegóły techniczne z raportu Anthropic sugerują, że GLM-5.3 potrafi więcej niż proste ataki. Samodzielnie przeprowadza złożone, łańcuchowe exploity. Tom's Hardware wyjaśnił, że w benchmarku dotyczącym „pełnego przejęcia przepływu sterowania” GLM-5.3 osiągnął 4% skuteczności. To nieco mniej niż 6% Mythos. Według raportu bardziej niepokojąca była umiejętność lżejszego wariantu GLM-5.3 o nazwie „Flash” do tworzenia łańcuchowych exploitów na znane błędy przy cenie zaledwie 20,40 dolara za tokeny. Niski koszt sprawia, że takie możliwości są dostępne dla szerszego grona podmiotów. Może to obniżyć próg wejścia w zaawansowane operacje cybernetyczne.

Anthropic zarzucił ponadto, że zabezpieczenia wbudowane w GLM-5.3 łatwo ominąć. Raport opisuje dwie główne metody obchodzenia barier modelu. Pierwsza to zwodniczy prompt, który nakłania AI do odegrania roli wrogiego autonomicznego agenta. Dało to 64% skuteczności w generowaniu szkodliwych treści. Druga metoda polega na wstępnym wypełnieniu tokenów myślowych modelu, żeby ukierunkować odpowiedź. Osiągnęła 92% skuteczności. Wspomniano też trzecią metodę, znaną jako abliteracja, choć pierwsze doniesienia podawały mniej szczegółów.

Te ustalenia wpisują się w szerszy trend odkrywania przez badaczy bezpieczeństwa luk w modelach o otwartych wagach. The Register zauważył, że Anthropic ogłosił w kwietniu Project Glasswing. Inicjatywa daje wybranym partnerom dostęp do modeli klasy Mythos do szukania błędów. Od tego czasu rośnie liczba typów CVE (Common Vulnerabilities and Exposures) przypisanych tym zaawansowanym modelom. Według trackera prowadzonego przez badacza bezpieczeństwa z VulnCheck Patricka Garrity’ego Mythos i Project Glasswing wykryły do piątku 286 CVE. Do czwartku tylko jeden z tych błędów wykorzystano w rzeczywistych atakach. To się niedawno zmieniło.

Wykorzystanie w praktyce i związek z Mythosem

Ostatnie wydarzenia wokół krytycznego błędu obejścia uwierzytelniania w Rejetto HTTP File Server (HFS) pokazują, jak pilne są twierdzenia Anthropic. The Register podał, że badacz Zach Hanley z firmy Horizon3, zajmującej się testami penetracyjnymi z użyciem AI, wykorzystał Mythos do znalezienia nowej luki w tym serwerze plików, oznaczonej jako CVE-2026-61500. Luka pozwala uzyskać pełny dostęp administratora i zdalnie wykonać kod. Hanley opublikował nagranie pokazujące kroki do wykorzystania HFS i zdalnego uruchomienia kodu na serwerze. Widać na nim praktyczną użyteczność takiego wykrywania luk przez AI.

Badacz bezpieczeństwa z VulnCheck Patrick Garrity napisał w czwartek na LinkedIn, że tego wieczoru zaczął wykrywać wykorzystanie CVE-2026-61500. Dodał, że pierwsza aktywność pochodziła z adresu IP w Chinach i celowała w podatne hosty w Stanach Zjednoczonych i Japonii. Do piątku Garrity odnotował cztery trafienia z dwóch różnych adresów IP w USA. Zauważył, że wyglądały na ruch z serwera proxy. Powiązani z Chinami intruzi rutynowo używają przejętych urządzeń jako proxy, żeby kierować złośliwy ruch i ukrywać swoją lokalizację. Doradztwo bezpieczeństwa dziesięciu krajów z kwietnia ostrzegało przed tą taktyką.

Raport Anthropic o GLM-5.3 powołuje się na własny raport Center for AI Standards and Innovation z końca września. Dokument twierdzi, że GLM-5.3 potrafi w pełni automatyzować exploity na poziomie zbliżonym do Mythos. To zewnętrzne potwierdzenie dodaje wagi wewnętrznym benchmarkom Anthropic. Firma przekonuje, że takie możliwości czynią modele o otwartych wagach niebezpiecznymi, jeśli nie zostaną należycie zabezpieczone. Można je wykorzystać do generowania szkodliwych treści i przeprowadzania cyberataków. Raport przypomina o podwójnym zastosowaniu zaawansowanych modeli AI i o trudnościach w zarządzaniu ich wydawaniem.

Dla deweloperów i zespołów bezpieczeństwa wniosek jest jasny: modele o otwartych wagach wymagają rygorystycznych testów i monitoringu. The Register radził, że jeśli używasz Rejetto HFS, zaktualizuj go do wersji 3.2.1 lub nowszej, żeby naprawić luki. Szerzej, incydent pokazuje potrzebę silnych praktyk bezpieczeństwa. AI potrafi teraz przyspieszyć wykrywanie i wykorzystywanie luk. W miarę jak rosną możliwości modeli takich jak GLM-5.3 i Mythos, granica między narzędziami obronnymi a bronią ofensywną coraz bardziej się zaciera.

Stanowisko Anthropic w tej sprawie jest złożone. Firma twierdzi, że Mythos jest zbyt potężny, by udostępniać go ogółowi. Jednocześnie opowiada się za zarządzaniem i regulacjami w dziedzinie AI. Jej działania, w tym wydanie nowych modeli Claude i starania o pierwszą ofertę publiczną, wskazują na model biznesowy oparty na szybkim wdrażaniu możliwości AI. To napięcie między interesami komercyjnymi a troską o bezpieczeństwo prawdopodobnie pozostanie głównym tematem przyszłości branży AI. Raport o GLM-5.3 to najnowszy rozdział narracji o ryzykach i korzyściach z modeli o otwartych wagach.

Komentarze 0

Źródła

10
  1. 01Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
  2. 02Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  3. 03OpenAI alerts 100+ orgs that its 'misaligned models' attempted to break in - or worseEN
  4. 04US road rage killer's sentence quashed because AI video of victim was shown in courtEN
  5. 05Twelve AI clay films for $184: The agents cost more than the video modelEN
  6. 06Kolibri: A Sovereign Open-Weight ModelEN
  7. 07New in Llama.cpp: Decision ModelsEN
  8. 08Shield: A 118M model for detecting prompt injections and jailbreaksEN
  9. 09Open 10-player CS:GO dataset for multiplayer world modelsEN
  10. 10We diffed all 66 release pairs of the official MCP servers, 140 silent changesEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Anna Kaczmarek

Anna Kaczmarek

AI, modele i technologie

Anna Kaczmarek pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, repozytoriach i danych źródłowych, a nie na komunikatach prasowych. Przy testach modeli sprawdza karty techniczne, parametry wejściowe i liczy wyniki na tych samych zbiorach, zamiast powtarzać liczby od producentów. Czeka na premiery API i aktualizacje wag, rozmawia z inżynierami oraz porównuje wersje modeli pod kątem kosztów i opóźnień. Prywatnie self-hostuje usługi i konfiguruje sieci domowe, więc do redakcji wnosi praktykę z własnego serwera. Nie publikuje zapowiedzi ani parametrów, których nie może odtworzyć na własnym środowisku.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.