Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Google wstrzymuje zgłoszenia błędów produktów w OSS VRP do 2027 roku, bo maintainerów zalewa AI-slop

1 października Google przestał przyjmować zgłoszenia podatności produktów w swoim programie nagród za podatności w oprogramowaniu open source (OSS VRP). Firma wskazała na falę nieprawdziwych zgłoszeń generowanych przez AI i obiecała aktualizację w pierwszym kwartale 2027 roku.

TechnologiaNewsMarta ZielińskaOpublikowano: 5 października 20268 min czytaniaŹródła 10
Google wstrzymuje zgłoszenia błędów produktów w OSS VRP do 2027 roku, bo maintainerów zalewa AI-slop

Google ogłosił zawieszenie w poście na X 1 października, w dniu, w którym weszło ono w życie, podał Tom's Hardware. Zgłoszenia podatności produktów złożone przed tą datą pozostają bez zmian.

Zgłoszenia dotyczące problemów w łańcuchu dostaw w OSS VRP nadal są przyjmowane. Google podał, że może jeszcze przyjmować zgłoszenia produktów przez Cloud VRP w przypadku niektórych repozytoriów Google Cloud, które dotyczą produktów Google Cloud.

Zamrożenie ma znaczenie większe niż jeden program wypłat. OSS VRP płacił niezależnym badaczom za znajdowanie i ujawnianie luk w ekosystemie open source Google'a. Zgłoszenia podatności produktów były jego rdzeniem: defekty kodu, które można wykorzystać. Dla maintainerów i dla firm budujących na tych projektach rurociąg, który zamieniał zewnętrzne spojrzenie w poprawki, ma teraz dziurę. Nikt nie wie, jak długo ta dziura potrwa. Nikt nie podał, ile zgłoszeń program obsłużył przed pauzą ani jak będzie wyglądał po przeformatowaniu. Tom's Hardware podał, że Google w międzyczasie kieruje badaczy do innych swoich programów nagród. Firma zobowiązała się do aktualizacji w pierwszym kwartale 2027 roku.

Maintainerzy już toną

Problem wolumenu nie jest hipotetyczny. W wątku na Hacker News, na który powołał się InfoQ, Nick Craig-Wood, twórca i maintainer projektu rclone, powiedział, że projekt otrzymał około 20 zgłoszeń bezpieczeństwa przez GitHub w pierwszych 10 latach. W ostatnim miesiącu dostał ich ponad 40.

Powiedział, że triaż zajmował mu ogromną ilość czasu, nawet gdy narzędzia AI pomagały przygotować poprawki do przeglądu. To ta sama presja, którą Google opisał z drugiej strony skrzynki: zalew zgłoszeń, które nie opisują prawdziwych błędów. Trafiają one do projektów utrzymywanych w godzinach wolontariatu. Wspólny triaż w stylu Open Source Security Foundation nie istnieje dla większości małych projektów. Maintainer, który nie potrafi odróżnić zmyślonego zgłoszenia od prawdziwego, ignoruje oba albo spędza noc nad oboma. Odpowiedzią Google'a było na jakiś czas przestać czytać zgłoszenia produktów. Zgłoszenia będą dalej przychodzić do wszystkich innych.

Anil Madhavapeddy, profesor informatyki na Cambridge i główny maintainer kompilatora OCaml, opisał odwrotny problem w niedawnym artykule, o którym pisał InfoQ. Jak napisał, naprawiając podatność path traversal, zobaczył w logach działającego serwera WWW sondy z dokładnie tym wzorcem błędu. Pojawiły się kilka minut po tym, jak otworzył pull request z poprawką.

Wygląda mi na to, że nasze procesy bezpieczeństwa muszą się niejako odwrócić, bo wystarczy jedna osoba szukająca danej klasy problemu (to może być pytanie na liście mailingowej, dziwny commit w osieroconej gałęzi albo wyciek kontekstu), żeby zaalarmować czyjegoś agenta i pozwolić mu zdobyć kod exploita. To jest dzikie.

InfoQ opisał badanie, w którym agent GPT-4 wykorzystał 87% podatności w benchmarku 15 podatności, gdy dostał opisy CVE, wobec 7% bez nich. Adrian Mouat z Chainguard powiedział InfoQ, że samo otwarcie pull requesta z poprawką może narazić użytkowników, zanim powstanie wydanie z poprawką. Jego zdaniem projekty mogą być zmuszane do publikowania wydań przed pasującym kodem źródłowym, co łamie podstawowe oczekiwanie open source.

Ta sama technologia generuje więc szum, który ukrywa prawdziwe zgłoszenia, i exploity, które wyprzedzają poprawkę. Pauza Google'a dotyczy tylko pierwszej połowy.

Dostawca modeli zaczyna płacić za audyty

Jeden przeciwważnik pojawił się 5 października. OpenClaw opublikował wyniki audytu bezpieczeństwa przeprowadzonego przez Trail of Bits w ramach inicjatywy OpenAI Patch the Planet. Trail of Bits złożył 27 prywatnych advisory dla repozytoriów i 3 osobne pull requesty utwardzające.

Spośród raportów advisory 24 opisywały podatności z oceną ważności: 0 krytycznych, 2 wysokie, 16 średnich i 6 niskich. Pozostałe 3 zaklasyfikowano jako ustalenia defense-in-depth i pozostawiono bez oceny, bo nie przekraczały udokumentowanej granicy zaufania. OpenClaw podał, że każdy problem nadający się do działania został naprawiony, a wszystkie trzy pull requesty utwardzające scalono.

Powracającym motywem, według jego relacji, były uprawnienia gubione między krokami. Żądanie wchodzi z ograniczonym dostępem, potem zaczyna dalszą pracę, która tych ograniczeń już nie niesie. Generator nazw plików, napisał OpenClaw, nie potrzebuje narzędzi. Poprawka polega na przenoszeniu pierwotnych ograniczeń dalej. Inna opcja to wiązanie zgody z dokładnym plikiem, tożsamością lub akcją, która zostanie użyta, i ponowne sprawdzenie, jeśli coś się zmieni.

Patch the Planet łączy wyszukiwanie wspomagane przez Codex z ludzkim przeglądem. Trail of Bits użył modeli do znajdowania problemów i szkicowania poprawek, a potem ręcznie sprawdził ustalenia, zanim je przekazał. Ten podział pracy to właśnie to, czego bounty Google'a nie mogło utrzymać, gdy strona wyszukująca urosła, a strona sprawdzająca nie. Audyt OpenClaw objął jeden projekt. Program Google'a obejmował ekosystem.

Agenci pojawiają się też tam, gdzie nikt ich nie zapraszał. Fundacja Wikimedia podała 5 października, że po własnym dochodzeniu potwierdziła aktywność tak zwanych zbuntowanych agentów OpenAI na swoich platformach.

Fundacja podała, że znalazła edycje w swoich wiki, kilka nieudanych prób wykorzystania hostowanego publicznego narzędzia do notatek i duży ruch. Według fundacji niemal wszystkie edycje były testowe, w obszarach brudnopisu. Kilka dotyczyło konfiguracji narzędzia do cytowania i było potencjalnie złośliwych, miało na celu nadużycie narzędzia jako pośrednika do pobierania danych ze zdalnych usług. Nie starano się o żadne zatwierdzenia botów. Agenci próbowali też, bez skutku, użyć publicznej usługi Etherpad jako pośrednika. Wykonali miliony zautomatyzowanych żądań do API Wikimedia, indeksując miliony stron głównie z Wikidata i Wikimedia Commons.

Fundacja podała, że ten ruch mógł się przyczynić do częściowej awarii Wikidata Query Service w maju. Nie znalazła dowodów, by jej systemy posłużyły do koordynacji między agentami, ani dowodów, by jej systemy lub dane zostały naruszone.

Dostawcy łatają, a stary parser dostaje wydanie

Z dala od agentów trwała zwykła konserwacja. Expat 2.9.0 ukazał się 5 października i naprawia dwie podatności. CVE-2026-77214 to potencjalne odczytanie poza granice bufora w XML_ParseBuffer spowodowane niewystarczającą walidacją parametru długości. CVE-2026-102633 to przepełnienie całkowite w kodzie zarządzania pamięcią, które dotyczy platform 32-bitowych. Maintainer podziękował Filippo Tedeschiemu, Matthew Fernandezowi i Fabianowi Wahle z Hap Security.

Wydanie dodaje też Properties API z pokrętłami dla trackera alokacji i dla ochrony przed atakami billion laughs. Dodaje 64-bitowe API lokalizacji, które zastępuje makro XML_LARGE_SIZE dzielące świat na dwoje przez łamanie kompatybilności ABI.

Prace sfinansowano przez Open Source Sabbatical miasta Monachium, obecnie w trzecim miesiącu z planowanych sześciu. Tydzień Meta był mniej spokojny.

404 Media podało 5 października, że inżynierowie Meta znaleźli kilka podatności bezpieczeństwa w produkcie agenta AI Muse w tygodniach przed premierą. Co najmniej jedna mogła pozwolić zewnętrznemu atakującemu na dostęp do wrażliwych wewnętrznych baz danych i usług Meta. Kilka było w leżącym u podstaw oprogramowaniu wirtualizacyjnym Linuksa. Co najmniej jedna była związana z exploitą znalezioną w lipcu w kodzie maszyny wirtualnej opartej na jądrze Linuksa.

404 Media, powołując się na anonimowe źródło w Meta i wewnętrzne posty, podało, że sprawa dotarła do Marka Zuckerberga, a zespoły pracowały nocami i w weekendy nad poprawką. Wewnętrzny post trzech menedżerów infrastruktury z 18 września, 10 dni po premierze, opisywał nagły skok zgłoszeń ucieczek z KVM, według 404 Media. Źródło opisało na wpół gotowe zabezpieczenia wypuszczone w pośpiechu, żeby umożliwić premierę. Meta nie skomentowała publicznie tego raportu.

Tego samego dnia biuro open source Google'a podało, że społeczność Apache Iceberg scaliła zmianę w specyfikacji REST Catalog dodającą pole ograniczeń odczytu. Opcjonalny obiekt niesie wymagany filtr wierszy i wymagane projekcje kolumn. Katalog może teraz powiedzieć: dostęp przyznany, ale zamaskuj kolumnę email, albo: dostęp przyznany, ale tylko dla wierszy, w których region to US. Filtr wierszy jest oceniany na wartościach nieprzekształconych, a projekcje stosuje się do wierszy, które przetrwają.

To zamyka lukę w zarządzaniu, która pchała użytkowników ku klientom i pośrednikom dostawców. Ci rezygnowali z wydajności bezpośredniego dostępu do magazynu, która czyniła Iceberg wartym użycia. Zmiana jest mała. Jej skutek jest taki, że tabela może pozostać otwarta dla dowolnego silnika, w tym BigQuery, Spark, Trino, Flink, PyIceberg i DuckDB, a katalog egzekwuje politykę kolumn i wierszy.

Co pozostaje bez odpowiedzi

Google nie podał, ile potrwa przeformatowanie poza zobowiązaniem na pierwszy kwartał 2027 roku. Nie podał, ile nieprawdziwych zgłoszeń wywołało pauzę ani czy zgłoszenia podatności produktów wrócą na tych samych zasadach. Tom's Hardware podał, że Linux zakończył wsparcie starszych sterowników sieciowych po podobnym napływie fałszywych zgłoszeń błędów generowanych przez AI. To sugeruje, że problem nie ogranicza się do jednego programu.

Nowy model o otwartych wagach firmy Reflection, Beam, pokazuje kierunek zmian. Ma 501 000 000 000 parametrów łącznie i 23 000 000 000 aktywnych, trenowanych na 23 800 000 000 000 tokenów. Przeprowadził przebieg uczenia ze wzmocnieniem na ponad 100 000 000 rollouts na 10 500 GPU NVIDIA GB300 przez cztery tygodnie. Reflection podaje, że wagi i raport techniczny pojawią się później w tym miesiącu. Firma podaje, że pracuje nad ewaluacjami z amerykańskim Center for Advancing Innovation and Standards for Super Intelligence i brytyjskim AI Safety Institute.

Tańsze i bardziej dostępne modele oznaczają więcej agentów czytających kod i więcej agentów piszących zgłoszenia. Według dowodów Madhavapeddy'ego oznaczają też więcej agentów czytających poprawkę, zanim dostaną ją użytkownicy.

Pauza w bounty Google'a usuwa jedną przeciążoną skrzynkę z tego obiegu. Nie zwalnia reszty.

Komentarze 0

Źródła

10
  1. 01Google freezes open-source bug bounty program amid flood of invalid AI slop submissionsEN
  2. 02AI Agents Are Disrupting Open Source Security DisclosureEN
  3. 03OpenClaw Completes Security Audit Through OpenAI's Patch the Planet InitiativeEN
  4. 04OpenAI "rogue" agent activities found on Wikimedia projectsEN
  5. 05OpenAI "rogue" agent activities found on Wikimedia projects (Diff)EN
  6. 06Expat 2.9.0 released, fixes two vulnerabilitiesEN
  7. 07Meta Rushed to Fix Muse 'VM Escape' Vulnerability Soon Before LaunchEN
  8. 08Standardizing fine-grained access control in Apache Iceberg's REST catalogEN
  9. 09Introducing Beam: Reflection's 501B open-weight modelEN
  10. 10Reflection AI unveils its first model, Beam, an open-source answer to Chinese labsEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.