Meta otwiera bug bounty dla agenta Muse. Do 300 000 dolarów nagrody, a Flock żąda zdjęcia mapy kamer
Meta udostępniła publicznie bug bounty dla agenta Muse i płaci do 300 000 dolarów za zgłoszenia, w tym do 130 000 dolarów za jeden skuteczny prompt injection. Napisał o tym 25 września blog badawczy firmy. Dwa dni później Flock zażądał zdjęcia z sieci mapy 335 701 swoich kamer.

Meta opublikowała warunki 25 września i to liczby są tu najważniejsze. Firma płaci do 300 000 dolarów za prawdziwe zgłoszenia. Do 130 000 dolarów przewidziano za prompt injection, który dotknie jednego użytkownika. Program działał wcześniej jako prywatny. Meta twierdzi, że decyzja o otwarciu wynika z testów red teamingowych na agentach i z tego, co pokazały rzeczywiste scenariusze ataków.
Wpis napisali badacze z Meta AI Research. Opisują architekturę zbudowaną na założeniu, że agent będzie atakowany przez dane, które czyta. Harness agenta działa w kontenerze systemd-nspawn, gdzie root odpowiada nieuprzywilejowanemu użytkownikowi na hoście. Agent dostaje własny system plików Debian i przefiltrowany zestaw wywołań systemowych, który blokuje io_uring, CAP_SYS_PTRACE i CAP_NET_ADMIN. Klasyfikatory bezpieczeństwa i uprzywilejowani pracownicy konektorów stoją poza tą komórką właśnie po to, żeby atakujący nie mógł ich wyłączyć.
To założenie projektowe, nie wynik. Meta przyznaje wprost, że Muse może i będzie popełniać błędy, choć spodziewa się, że będą rzadsze i mniej szkodliwe. Testy opierały się dotąd na dogfoodingu, red teamingu i prywatnym bug bounty. Jak na agenta, który według firmy od początku 2026 roku ma dostęp do skrzynek mailowych, kalendarzy i powłoki, to cienka podstawa.
Kontrast z wydarzeniami z tego samego weekendu narzuca się sam.
27 września Tom's Hardware poinformował, że Flock złożył skargę o naruszenie znaku towarowego i chce usunięcia mapy swoich kamer, którą zrobił badacz bezpieczeństwa. Strona wymienia 335 701 lokalizacji kamer. Jak podaje Tom's Hardware, powołując się na The Intercept, badacz Joshua Michael znalazł w witrynie Flock lukę, która bez danych logowania zwracała token dostępu. Potem, w listopadzie 2025 roku, odpytał ArcGIS, zewnętrzną warstwę mapową używaną przez Flock, i pobrał bazę urządzeń.
Michael powiedział The Intercept, że zgłosił błąd 13 listopada 2025 roku i napisał, że wszystkie testy były nieinwazyjne i ograniczały się do otwartych, nieuwierzytelnionych punktów końcowych. Według Tom's Hardware Flock nie odpowiedział na pierwszą wiadomość. Potrzebne były dwie kolejne próby, zanim przedstawiciel firmy odpisał, że zgłoszenie jest w wewnętrznej analizie. Michael twierdzi, że firma do dziś nie odpowiedziała. Flock naprawił lukę w styczniu, już po jego publikacji, ale baza zdążyła wyciec.
Firma twierdzi, że platforma chmurowa Flock Safety nigdy nie padła ofiarą naruszenia danych. Michael się z tym nie zgadza i mówi The Intercept, że oświadczenie pojawiło się po tym, jak pobrał bazę urządzeń.
Stawia sprawę ostro: albo firma wiedziała i zdecydowała się nie ujawniać, albo w ogóle nie wykryła wycieku. Pierwsze to porażka przejrzystości, drugie to porażka wykrywania ze skutkami dla bezpieczeństwa narodowego, powiedział. Tom's Hardware przypomina też wcześniejsze ustalenia: kamery Flock trzymały klucze szyfrowania na urządzeniu, co pozwoliło wyciągnąć ponad 27 000 klipów i pokazać 1 600 000 zdjęć zrobionych w ciągu 21 dni. Do tego dochodzą przypadki funkcjonariuszy, którzy nadużywali systemu.
Obie historie dotyczą tej samej luki: co właściwie mierzy ewaluacja. Meta wycenia prompt injection na do 130 000 dolarów za jednego poszkodowanego użytkownika. Taka kwota oznacza, że firma wie, iż jedno obejście zabezpieczeń jest prawdopodobne. Sprawa Flock pokazuje, że trudniejszy problem to nie zbudowanie obrony, ale zauważenie, że ktoś ją już minął.
Gdzie indziej debata o ewaluacji pędzi szybciej niż wdrożenia. 27 września The Decoder poinformował, że badacze ze Stanford i Caltech zbudowali HomeBody, które podłącza GPT-6 Astra bezpośrednio do robota Unitree G1, bez wyszkolonej warstwy sterowania między modelem a sprzętem. Robot zwiedza nieznaną kuchnię, buduje cyfrowego bliźniaka w Nvidia Isaac Sim i sam poprawia swoje błędy. Wśród wymienionych ograniczeń są opóźnienia Astry, przegrzewające się serwa palców i wysokie koszty obliczeń.
Tego samego dnia The Decoder napisał, że Boris Power, szef badań stosowanych w OpenAI, oświadczył, iż 80 do 90 procent badań firmy dotyczy teraz GPT 7, GPT 8 i kolejnych modeli. Power nazwał wewnętrznie „niezwykle krótkowzrocznymi” stopniowe aktualizacje w rodzaju GPT 5.1 do 5.2, choć przyznał, że są przydatne do szybkiego iterowania. Powiedział też, że główną przeszkodą dla obecnych asystentów jest wdrożenie u użytkownika, a nie jakość modelu.
Te trzy stanowiska nie są sprzeczne, raczej układają się po kolei. Meta wycenia awarię, której się spodziewa. Flock pokazuje, ile kosztuje awaria niewykryta. OpenAI wydaje już większość badań na modele, których nie wysłało na rynek, i zakłada, że każda generacja po prostu działa lepiej.
Źródła
4- 01We Built Safety into MuseEN
- 02Flock seeks to have security researchers' map of Flock cameras taken downEN
- 03Researchers plug GPT-6 Astra directly into a robot and let it clean up an unfamiliar kitchenEN
- 04OpenAI says 80 to 90 percent of its research already targets GPT 7 and beyondEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.