Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Bezpieczeństwo open source tonie w AI-slopie, a programy bug bounty płacą za to cenę

Google przestał przyjmować nowe zgłoszenia podatności produktowych do swojego programu nagród za podatności w oprogramowaniu open source 1 października. Powodem był zalew nieprawdziwych zgłoszeń generowanych przez AI. Przerwa potrwa co najmniej do pierwszego kwartału 2027 roku.

TechnologiaAnalizaAnna KaczmarekOpublikowano: 4 października 20265 min czytaniaŹródła 8
Bezpieczeństwo open source tonie w AI-slopie, a programy bug bounty płacą za to cenę

Google ogłosił zawieszenie we wpisie na X 1 października, informował Tom's Hardware. Zmiana weszła w życie tego samego dnia. Nie dotyczy zgłoszeń złożonych przed tą datą.

Google podał, że nadal może przyjmować zgłoszenia podatności produktowych przez Cloud VRP dla części repozytoriów Google Cloud. Zgłoszenia łańcucha dostaw w ramach OSS VRP pozostają otwarte. To ma znaczenie dla każdego, kto korzysta z kodu open source, czyli dla większości internetu. Opiekunowie projektów dostają mniej darmowej kontroli ze strony zewnętrznych badaczy, przynajmniej na razie. Google obiecał aktualizację do pierwszego kwartału 2027 roku. Nie powiedział, jak będzie wyglądał przebudowany program ani jak dużą część starego zakresu odzyska.

Program płaci niezależnym badaczom za znajdowanie i ujawnianie błędów w ekosystemie open source Google'a. Zgłoszenia podatności produktowych dotyczą wad kodu. Zgłoszenia łańcucha dostaw dotyczą innego zestawu problemów w zależnościach, które projekty ściągają do siebie. Według słów samego Google'a, cytowanych przez Tom's Hardware, firma przeformatowuje tę część programu.

Dlaczego zgłoszenia przestały być użyteczne

Powodem jest wolumen. Tom's Hardware podał, że program zawieszono z powodu napływu nieprawdziwych zgłoszeń napędzanych przez AI. To nie jest odosobniona skarga. Ten sam materiał zauważa, że Linux porzucił wsparcie dla starszych sterowników sieciowych po fali fałszywych zgłoszeń błędów generowanych przez AI. Ten sam mechanizm awarii, tylko w mniejszej skali.

Dwa zgłoszenia z ostatnich dni pokazują dwie strony tego zjawiska. 2 listopada publiczny rejestr CVE przypisanych zespołowi badawczemu Anthropic wymieniał Apache Arrow w Rust z oceną CVSS 9.9. Wymieniał też trzy błędy w NLnet Labs Krill ocenione na 8.4. Te pozycje siedzą w tym samym rejestrze, który odnotowuje SQLite na 6.8 z 30 października i Nextcloud Server na 5.3 z 27 października, według repozytorium GitHub prowadzonego przez patrickmgarrity.

Przegląd wspomagany przez AI faktycznie znajduje prawdziwe, poważne błędy. Problem leży w proporcji. Program bug bounty musi przejrzeć każde zgłoszenie. Raport, który okazuje się halucynacją, kosztuje recenzenta tyle samo czasu co prawdziwy.

Ta asymetria to cała historia. Znajdowanie kandydatów stało się tanie. Decyzja, które są prawdziwe, tania nie jest.

Badacze sami budują filtry

Caleb Gross, badacz bezpieczeństwa ofensywnego, opublikował 4 listopada zapis swojego wystąpienia. Opisuje w nim narzędzia zbudowane dokładnie pod ten problem selekcji. Jego narzędzie Slice odtworzyło wykrycie use-after-free w serwerze SMB jądra Linux za około $3 na przebieg, według jego opisu na noperator.dev. Narzędzie Raink szereguje duże zbiory danych z użyciem LLM-ów w złożoności O(N). Gross mówi, że potrafi ono ustalić priorytety dla około 2 700 repozytoriów GitHub, około 3 000 podsystemów jądra albo około 1 500 funkcji w diffach poprawek.

W wystąpieniu Grossa chodzi o priorytetyzację, nie o wykrywanie. Twierdzi, że wąskim gardłem jest decyzja, którą powierzchnię ataku zbadać, a nie samo znajdowanie błędów.

Praktyka branży zaczyna się z tym zgadzać. Zamrożenie Google'a to brutalna wersja tego osądu: jeśli kolejki nie da się uszeregować, trzeba ją zamknąć.

Co kryje zamknięta kolejka

Przerwa u jednego dostawcy to nie to samo co spadek liczby wykrywanych podatności. Rejestr powiązany z Anthropic pokazuje stały strumień zgłoszeń przez koniec października i początek listopada. The Register informował 3 października, że model Mythos od Anthropic, służący do polowania na błędy, miał udział w podatności, która od tego czasu znalazła się pod atakiem. Wynika z tego, że narzędzia dalej produkują znaleziska, niezależnie od tego, czy program Google'a jest otwarty.

Ryzyko spada na projekty, które traktowały uwagę programu bug bounty jako jedyny zewnętrzny przegląd. Mała biblioteka bez zespołu bezpieczeństwa i bez płatnego audytu nie dostanie nic od programu, który jest zamknięty, nawet jeśli zamknięcie jest tymczasowe.

Google nie podał, ile zgłoszeń program obsłużył przed przerwą ani jaka ich część była nieprawdziwa. Nie powiedział też, czy budżet programu się zmieni. Te liczby pokazałyby opiekunom projektów, ile kontroli faktycznie tracą.

Wyłączenie Cloud VRP jest wąskie. Obejmuje część repozytoriów Google Cloud, których wady wpływają na produkty Google Cloud. Nie przywraca ogólnego zakresu dla kodu open source, którego Google nie prowadzi jako usługi.

Równoległy spór o to, jak znajduje się błędy

Ten sam tydzień przyniósł osobny spór o to, kto powinien patrzeć. David Robinson kierował pisaniem raportów o bezpieczeństwie, które towarzyszyły wydaniom produktów OpenAI. Odszedł i napisał w Atlantiku, że kultura firmy jest zepsuta, informował Guardian 3 października. Przekonywał, że firmy AI nie zachowują wystarczającej ostrożności. Wzywał do sięgnięcia po wiedzę o bezpieczeństwie z dziedzin takich jak energetyka jądrowa i lotnictwo.

Esej Robinsona dotyczy bezpieczeństwa modeli, nie programów bug bounty. Nie należy go rozciągać na decyzję Google'a. Obie historie krążą jednak wokół tego samego pytania: co się dzieje, gdy wolumen maszynowo generowanych wyników przerasta ludzi, których prosi się o ich sprawdzenie.

Dla opiekunów projektów open source praktyczna odpowiedź w tym tygodniu jest taka, że jedno duże źródło darmowego przeglądu ucichło. Dla badaczy, którzy złożyli prawdziwe zgłoszenia przed 1 października, nic się nie zmienia. Dla wszystkich pozostałych kolejka jest zamknięta.

Zobowiązanie Google'a to aktualizacja do pierwszego kwartału 2027 roku. Do tego czasu kanał łańcucha dostaw w OSS VRP pozostaje otwarty. Cloud VRP obejmuje wycinek repozytoriów Google Cloud. Żaden z nich nie zastępuje potoku zgłoszeń podatności produktowych, który zamknięto 1 października.

Komentarze 0

Źródła

8
  1. 01Google freezes open-source bug bounty program amid flood of invalid AI slopEN
  2. 02Tracking vulnerabilities that credit the Anthropic research teamEN
  3. 03O(N) the Money: Scaling Vulnerability Research with LLMsEN
  4. 04OpenAI safety leader quits, warning AI company's culture is 'broken'EN
  5. 05Xray-core concealed a certificate verification bypass vulnerabilityEN
  6. 06Command injecting a reference tool to copy a source fileEN
  7. 07PhotoSuite Is an Open Source Photoshop-Like Editor with Native PSD SupportEN
  8. 08OpenBSD Developers Reject uutils Coreutils Port Over Licensing and Compatibility ConcernsEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Anna Kaczmarek

Anna Kaczmarek

AI, modele i technologie

Anna Kaczmarek pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, repozytoriach i danych źródłowych, a nie na komunikatach prasowych. Przy testach modeli sprawdza karty techniczne, parametry wejściowe i liczy wyniki na tych samych zbiorach, zamiast powtarzać liczby od producentów. Czeka na premiery API i aktualizacje wag, rozmawia z inżynierami oraz porównuje wersje modeli pod kątem kosztów i opóźnień. Prywatnie self-hostuje usługi i konfiguruje sieci domowe, więc do redakcji wnosi praktykę z własnego serwera. Nie publikuje zapowiedzi ani parametrów, których nie może odtworzyć na własnym środowisku.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.