Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Google wstrzymuje bug bounty OSS przez AI-slop. Wpłynęły zgłoszenia od Anthropic

1 października Google zamroził zgłoszenia podatności produktowych w swoim programie nagród za błędy w oprogramowaniu open source. Powód: napływ nieprawidłowych raportów generowanych przez AI.

TechnologiaAnalizaMarta ZielińskaOpublikowano: 4 października 20264 min czytaniaŹródła 9
Google wstrzymuje bug bounty OSS przez AI-slop. Wpłynęły zgłoszenia od Anthropic

Google zamroził zgłoszenia podatności produktowych w programie Open Source Software Vulnerability Reward Program (OSS VRP) 1 października 2026 roku, podaje Tom's Hardware. Firma podała, że napływ nieprawidłowych raportów tworzonych przez AI uniemożliwił sprawne sortowanie zgłoszeń, więc wstrzymała przyjmowanie nowych do pierwszego kwartału 2027 roku. Zgłoszenia dotyczące łańcucha dostaw nadal są przyjmowane, ale te o wadach w kodzie zostały wstrzymane. Decyzja pokazuje rosnące obciążenie infrastruktury bezpieczeństwa open source, w której automatyczne wykrywanie wyprzedza ręczną weryfikację.

Zawieszenie ogłoszono we wpisie na oficjalnym koncie X.

Google zachęcił uczestników, żeby w tym czasie sprawdzili inne programy VRP. Firma obiecała aktualizację do pierwszego kwartału 2027 roku, gdy uporządkuje program. Decyzja dotyczy tylko podatności produktowych zgłoszonych po dacie zamrożenia. Wcześniejsze raporty nadal będą rozpatrywane. To nie pierwszy raz, gdy szum generowany przez AI zakłócił pracę zespołów bezpieczeństwa. Podobne problemy zmusiły Linuksa do zakończenia wsparcia dla starszych sterowników sieciowych z powodu fałszywych zgłoszeń o błędach.

Zalew fałszywych alarmów

Modele AI znajdują teoretyczne podatności coraz szybciej. Często brakuje im kontekstu, żeby odróżnić realną lukę od nieszkodliwego wzorca w kodzie. The Register poinformował 3 października, że model Anthropic do szukania błędów, Mythos, jest bardzo skuteczny w podatnościach związanych z matematyką. Sama liczba znalezisk AI przytłacza jednak opiekunów open source. Napięcie jest wyraźne: AI znajduje błędy szybciej, niż ludzie są w stanie je naprawić, ale generuje też fałszywe alarmy, które podważają zaufanie do całego procesu.

Ten mechanizm nie dotyczy tylko Google. Wystąpienie Caleba Grossa na Offensive AI Con w San Diego w październiku 2025 roku pokazało, jak LLM-y mogą skalować badanie podatności za pomocą algorytmów rankingu listowego. Jego narzędzia open source, Slice i Raink, ustalają priorytety celów, żeby ograniczyć ręczną pracę. Slice odtworzył odkrycie use-after-free w serwerze SMB jądra Linuksa za około 3 dolary na jedno uruchomienie. Raink szereguje około 2 700 repozytoriów GitHub, żeby wyłonić elementy istotne dla bezpieczeństwa. Narzędzia pokazują potencjał wydajności, ale też problem skali: gdy każde repozytorium jest potencjalnym celem, stosunek sygnału do szumu spada bez rzetelnego sortowania.

Wkład Anthropic i wyzwania weryfikacji

Gdy Google wstrzymuje przyjmowanie zgłoszeń, inni gracze aktywnie wykorzystują AI do znajdowania i ujawniania podatności. Repozytorium GitHub śledzące CVE przypisane zespołowi badawczemu Anthropic wymienia kilka poważnych problemów ujawnionych 2 października 2026 roku. Wśród nich są CVE-2026-103604 i CVE-2026-103603 w bibliotece bc-csharp Legion of the Bouncy Castle, oba ocenione na 8,7 w skali CVSS. Repozytorium wymienia też CVE-2026-66858 w Apache Thrift, przypisane Claude (Anthropic Research) i Ada Logics. Liczba takich ujawnień rośnie, ale weryfikacja pozostaje wąskim gardłem. Opiekunom często brakuje zasobów, żeby sprawdzić każde twierdzenie AI, co opóźnia łatanie prawdziwych luk.

The Guardian poinformował 3 października, że David Robinson, były lider ds. bezpieczeństwa w OpenAI, odszedł z firmy z ostrzeżeniem, że jej kultura jest "zepsuta". Twierdził, że firmy AI nie są "nawet w przybliżeniu wystarczająco ostrożne" w tempie rozwoju. Choć skupił się na kulturze bezpieczeństwa, ten sam problem dotyczy bezpieczeństwa systemów: szybkie wdrażanie bez odpowiedniego nadzoru tworzy ryzyko systemowe. W kontekście open source oznacza to, że znaleziska AI napływają szybciej, niż ekosystem jest w stanie je wchłonąć. Efektem jest środowisko rozproszone, w którym część podatności jest szybko załatana, a inne czekają w kolejkach do sortowania.

Podatności infrastruktury i architektury

Poza szumem generowanym przez AI infrastruktura open source mierzy się z tradycyjnymi zagrożeniami architektonicznymi. Zgłoszenie na GitHubie z 4 października 2026 roku ujawniło, że Xray-core, popularne oprogramowanie proxy, przez pół roku ukrywało lukę pozwalającą ominąć weryfikację certyfikatu. Opis pokazał, że opcja pinnedPeerCertSha256, wprowadzona w styczniu 2026 roku, miała wadę umożliwiającą ataki man-in-the-middle. Opiekunowie zastąpili nią wcześniejszą opcję, skutecznie usuwając warstwę zabezpieczeń bez odpowiedniego ostrzeżenia. Przypadek pokazuje, jak ręczne zmiany w kodzie krytycznej infrastruktury mogą wprowadzać subtelne luki, które trwają, dopóki nie znajdą ich niezależni badacze.

Podobnie deweloperzy OpenBSD odrzucili 30 września 2026 roku port reimplementacji uutils coreutils, wskazując na obawy dotyczące licencji i zgodności. Theo de Raadt, założyciel projektu, argumentował, że wprowadzenie "subtelnie innych" binariów zepsuje istniejące pipeline'y i naruszy spójność systemu. Decyzja odzwierciedla szersze napięcie w open source: chęć przyjęcia nowych narzędzi kontra potrzeba stabilności i spójności. W środowiskach krytycznych dla bezpieczeństwa, takich jak systemy na OpenBSD, nawet drobne różnice w zachowaniu mogą mieć poważne skutki.

Droga naprzód

Obecna sytuacja wymaga równowagi między wykorzystaniem AI dla wydajności a utrzymaniem ludzkiego nadzoru nad weryfikacją. Wstrzymanie przez Google to pragmatyczna odpowiedź na niewydolny proces, ale sygnalizuje też potrzebę lepszych standardów w raportowaniu podatności generowanych przez AI. Narzędzia takie jak Slice i Raink dają obiecujące metody ustalania priorytetów, ale muszą im towarzyszyć rzetelne procesy sortowania. Społeczność musi też zająć się przyczyną: luką między możliwościami wykrywania AI a ludzką zdolnością do naprawy. Bez tej równowagi bezpieczeństwo open source nadal będzie się zmagać z zalewem fałszywych alarmów i powolnym tempem łatania prawdziwych luk.

Komentarze 0

Źródła

9
  1. 01Google freezes open-source bug bounty program amid flood of invalid AI slopEN
  2. 02Tracking vulnerabilities that credit the Anthropic research teamEN
  3. 03O(N) the Money: Scaling Vulnerability Research with LLMs (2025)EN
  4. 04OpenAI safety leader quits, warning AI company's culture is 'broken'EN
  5. 05Xray-core concealed a certificate verification bypass vulnerabilityEN
  6. 06OpenBSD Developers Reject uutils Coreutils Port Over Licensing and Compatibility ConcernsEN
  7. 07PhotoSuite Is an Open Source Photoshop-Like Editor with Native PSD SupportEN
  8. 08UberDDR4: The Open-Source DDR4 ControllerEN
  9. 09Kyber open source remote streaming solution architectureEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.