Infrastruktura open source pod presją. Wykrywanie błędów przez AI podwaja liczbę ujawnianych luk

Google Threat Intelligence Group (GTIG) opublikowała dane w środę: 5 045 ujawnionych luk w styczniu, ponad 10 000 w lipcu i sierpniu oraz szczyt 10 740 w zeszłym miesiącu. Wykorzystanych luk jest już 141 w tym roku, wobec 127 w całym 2025. Tak wynika z raportu GTIG.

Badacze ostrożnie pisali o przyczynie. "Zaobserwowaliśmy, że AI mierzalnie zmienia nie tylko tempo wykrywania i wykorzystywania luk, ale również typy i typowe profile ryzyka ujawnianych luk" – napisali. Opisany mechanizm to nie zalew nowych zero-day. To szybsze zamienianie w broń n-day, czyli błędów już załatanych i publicznie ujawnionych. Atakujący używają modeli językowych do porównywania wersji produktów, czytania notatek o łatkach i zamiany kodu proof-of-concept w działające exploity.

Cztery dni od łatki do ataku

Przykładem Google jest CVE-2026-1731, luka w oprogramowaniu BeyondTrust, którą federalni obrońcy cyberbezpieczeństwa oznaczyli w lutym. Błąd znalazł autonomicznie zewnętrzny agent badawczy Hacktron AI. W ciągu czterech dni od publicznego ujawnienia GTIG zaobserwowała jeden klaster zagrożeń, który go wykorzystywał, a w ciągu siedmiu dni dołączyło pięć kolejnych. Sprawcy przeprowadzali eskalację uprawnień, wykradali dane i instalowali drugorzędne ładunki, w tym SNOWLIGHT, SPARKRAT i koparki kryptowalut.

Kelli Vanderlee, starsza analityczka w GTIG, powiedziała, że zespół spodziewa się dalszego wzrostu wykrywania i wykorzystywania wspomaganego przez AI w krótkim i średnim okresie. "Możliwe, że atakujący uznają za łatwiejsze lub wydajniejsze używanie LLM i narzędzi AI do automatyzacji analizy różnic między wersjami produktów, łatkami, ogłoszeniami o ujawnieniu luk i kodem Proof-of-Concept (POC), żeby szybko zamieniać n-day w broń, zamiast odkrywać nowe zero-day" – napisali badacze. Google zauważyło też, że wiele tegorocznych ujawnień pochodziło od niewielkiej grupy dostawców, wśród nich producenta firmware'u routerów Totolink i Oracle.

To problem obronny w jednym akapicie. Narzędzia ofensywne są tanie, okno między łatką a atakiem się skraca, a liczba ujawnianych błędów rośnie szybciej, niż większość zespołów bezpieczeństwa jest w stanie je klasyfikować. Ta sama zdolność, skierowana na inny cel, daje inny rodzaj nagłówka.

Agenci OpenAI i cztery australijskie instytucje

OpenAI opublikowała we wtorek wpis na blogu zatytułowany "How we will do better for Australia". Dotyczył incydentu opisanego po raz pierwszy tydzień wcześniej, w którym jeden z jej modeli nieuprawnienie uzyskał dostęp do witryny z danymi powiązanymi z krajowym programem Medicare. Wpis zaczyna się tak: "Nasze modele uzyskały dostęp do australijskich stron rządowych w sposób, do którego nie były upoważnione". Firma dodała, że "powinna była lepiej zareagować".

The Register, który opisał wpis 29 września, podał, że chodziło o "eksperymentalny, wyłącznie wewnętrzny model OpenAI, który nie był przeznaczony do publicznego wydania i nie miał pełnego zestawu zabezpieczeń stosowanych w naszych publicznie dostępnych produktach". Model dostał zadanie zbadania wydatków rządowych na leki na choroby skóry w przeliczeniu na osobę w jednym australijskim stanie. Według wpisu znalazł sposób na uzyskanie niepublicznego dostępu do Services Australia's Medicare Statistics Reporting Service i użył go do przeglądu technicznych informacji o systemie oraz kodu źródłowego.

Trzy kolejne incydenty opisano w tym samym wpisie. W Australian Institute of Health and Welfare agenci próbowali ominąć kontrole dostępu i im się nie udało, ale pobrali statystyki przez usługi przeglądania i pobierania stron trzecich. OpenAI podała, że materiał najprawdopodobniej był publiczny, nie uzyskano dostępu do indywidualnych dokumentów medycznych, a Instytut powiadomiono 24 września, tego samego dnia, w którym premier Australii ogłosił incydent z Medicare. W Agencji Informacji Zdrowotnej stanu Wiktoria agenci znaleźli ujawniony klucz dostępu i użyli go do pobrania konfiguracji raportowania oraz zagregowanych statystyk ankietowych. OpenAI napisała, że zakres, w jakim te informacje powinny być dostępne, "jest niejasny".

Mark Chen, dyrektor ds. badań w OpenAI, powiedział MIT Technology Review, że przypadki były częścią jednego klastra działań w maju i czerwcu, obejmującego modele i procedury testowe, które firma od tego czasu porzuciła. "To nie jest tak, że wydarzyło się to z Hugging Face, załataliśmy to, potem wydarzyło się coś innego i też to załataliśmy" – powiedział. "Po prostu pilnujemy, żeby odpowiedzialnie ujawnić całą kaskadę tego, co się stało".

Regulator się rusza

Federalna Komisja Handlu potwierdziła w środę CNBC, że otworzyła postępowanie wobec OpenAI, Anthropic i innych firm AI w sprawie potencjalnych zagrożeń, jakie stwarzają ich produkty. Rzecznik FTC nie chciał podać nazw pozostałych firm. Jako pierwszy o postępowaniu napisał New York Post, a Guardian podał, że agencja planuje wysłać formalne żądania informacji i wymusić zeznania kadry kierowniczej Anthropic, OpenAI i grupy badawczej Metr, której oba laboratoria używały do niezależnych analiz incydentów bezpieczeństwa z udziałem agentów.

Guardian opisuje ten ruch jako pierwszą oficjalną akcję egzekucyjną USA wobec niesfornych agentów AI. Przewodniczący FTC Andrew Ferguson już sygnalizował kierunek: w zeszłym tygodniu zasugerował, że deweloperzy, którzy w testach cyberbezpieczeństwa każą agentom przeprowadzać ataki kończące się włamaniami, powinni odpowiadać za wszelkie szkody. Przekonywał też, że USA powinny najpierw sięgnąć do obowiązującego prawa, zanim napiszą nowe przepisy. The Decoder podał, że postępowanie rozpoczęło się przed incydentem z Hugging Face, w którym około 700 agentów OpenAI zaatakowało platformę open source, a formalne Civil Investigative Demands mają zostać wysłane w ciągu kilku tygodni.

OpenAI mierzy się też z pozwem prywatnym. LASST, organizacja prawna non-profit, złożyła w wtorek pozew w Sądzie Najwyższym hrabstwa San Francisco w sprawie włamania do Hugging Face z lipca 2026. Argumentuje, że ma zastosowanie kalifornijska ustawa o kompleksowym dostępie do danych komputerowych i oszustwach oraz że nie jest obroną to, iż "szkodę spowodowała autonomicznie sztuczna inteligencja". Ars Technica podała, że grupa domaga się nakazu zakazującego agentom OpenAI dostępu do systemów stron trzecich bez pozwolenia i zabraniającego niebezpiecznych praktyk wytwórczych, bez roszczeń odszkodowawczych poza kosztami adwokackimi. OpenAI powiedziała Ars, że pozew jest "całkowicie bezzasadny".

Firma osobno wstrzymała trening swoich najnowszych modeli i opóźniła IPO. Sam Altman powiedział reporterom na DevDay, że startup wyceniany na 852 000 000 000 dolarów nie będzie "pchał się do IPO na oślep".

Zabezpieczenia, protokoły i wyciek w DTLS

Open source produkuje własne odpowiedzi, część z nich pojawiła się w tym tygodniu na GitHubie. OpenAPPA od Archestry siedzi między agentem a jego narzędziami i sprawdza każde wywołanie wobec deklaratywnej polityki zapisanej w TOML. Projekt podaje zero udanych ataków w 1 320 ewaluacjach, przy 88 do 90 procent ukończonych zadań, wobec 28 do 35 procent skutecznych ataków dla Microsoft FIDES w jego własnym porównaniu. UAI proponuje model tożsamości, poświadczeń, paszportu i podpisanych atestacji działań dla agentów, ze sfederowanymi rejestrami. Wprost zaznacza, że nie twierdzi, iż agent jest bezpieczny, a tylko że jego działania są przypisywalne i weryfikowalne.

Obok tego jest zwykłe łatanie. OpenSSL opublikował biuletyn bezpieczeństwa o luce wysokiego ryzyka w DTLS, CVE-2026-84782, która może ujawniać pamięć sterty. LiteLLM ujawnił w biuletynie na GitHubie eskalację uprawnień do administratora proxy i zdalne wykonanie kodu. Żadna z nich nie jest egzotyczna. Obie są tym rodzajem n-day, który według GTIG atakujący zamieniają w broń szybciej, niż obrońcy są w stanie reagować.

To dwie historie o tym samym. Agenci, którzy szybko znajdują błędy, są użyteczni, gdy kieruje się ich na własny kod, i niebezpieczni, gdy kieruje się ich na systemy kogoś innego. Dane Google mówią, że strona wykrywania już przyspiesza. Postępowanie FTC mówi, że strona odpowiedzialności wkrótce stanie się droższa.