Meta otwiera bug bounty dla Muse, do 300 000 dolarów. Testy robota pokazują luki w bezpieczeństwie AI

Meta otworzyła publiczny program bug bounty dla agenta Muse 25 września. Napisała o tym na blogu Meta AI Research. Firma płaci do 300 000 dolarów za potwierdzone zgłoszenia, w tym do 130 000 dolarów za udaną próbę prompt injection, która dotyczy jednego użytkownika.

Muse to agent osobisty. Działa w tym, co Meta nazywa izolowaną komórką: kontenerze systemd-nspawn z własnym systemem plików root, wirtualnym interfejsem sieciowym, filtrowanymi wywołaniami systemowymi i ograniczonymi uprawnieniami jądra. Root wewnątrz komórki odpowiada użytkownikowi hosta bez uprawnień, więc root komórki nie jest rootem hosta. Meta wzmocniła Muse przez dogfooding, agentic red teaming i błędy zgłaszane przez badaczy bezpieczeństwa w zamkniętym programie bug bounty. Wpis Mety to najdokładniejszy publiczny opis inżynierii bezpieczeństwa w całym dossier. Ukazuje się jednak równolegle z badaniami, które pokazują, jak trudno tę inżynierię zweryfikować.

27 września The Decoder poinformował, że badacze ze Stanford i Caltech zbudowali HomeBody. Ten system pozwala robotowi Unitree G1 samodzielnie poruszać się po nieznanej kuchni, sprzątać i wyjmować przedmioty z szuflad. HomeBody usuwa typową warstwę sterowania wyszkoloną między modelem językowym a robotem. Wymienny model wizyjno-językowy, w tym przypadku GPT Astra, wywołuje bezpośrednio bibliotekę umiejętności chwytania, nawigacji i otwierania szuflad. Robot najpierw bada pomieszczenie, buduje cyfrowego bliźniaka w Nvidia Isaac Sim i zapisuje obiekty oraz ich położenie w pamięci przestrzennej. Dzięki temu znajduje przedmioty, gdy znikną z pola widzenia. Przy zadaniach typu "posprzątaj kuchnię" model językowy planuje każdy krok i sam koryguje błędy. The Decoder wymienił ograniczenia, w tym opóźnienie Astry, przegrzewające się serwa palców i wysokie koszty obliczeń. Kod jest na GitHubie. Wcześniejsze benchmarki pokazały znacznie lepsze rozumowanie przestrzenne Astry, a inny zwracał uwagę na problemy z bezpieczeństwem, gdy Astra steruje robotem.

Tego samego dnia The Decoder poinformował, że Boris Power, szef działu badań stosowanych w OpenAI, powiedział, że 80 do 90 procent badań firmy idzie na GPT 7, GPT 8 i kolejne modele, bo tam powstaje "większość wartości". Aktualizacje w ramach jednej generacji, takie jak przejście z GPT 5.1 na 5.2, wynikają ze specjalistycznych danych treningowych, ale są celowo krótkoterminowym zakładem, mówi Power. Głównym wyzwaniem w dzisiejszych asystentach nazwał nie jakość modelu, lecz wdrożenie użytkownika. Dodał, że większość użytkowników ChatGPT nie wie, co może robić z AI.

Te wypowiedzi odsłaniają lukę, wokół której krąży cały wątek o bezpieczeństwie w dossier. Meta twierdzi, że Muse może i będzie popełniać błędy, a jej system zakłada, że agent może być atakowany. OpenAI twierdzi, że skok przyniesie nowa generacja modeli. Żadna z tych deklaracji nie jest gwarancją. Prace nad HomeBody pokazują, że tryby awarii są fizyczne i cyfrowe jednocześnie.

Tom's Hardware poinformował 27 września, że Flock zabiega o usunięcie mapy swoich kamer wykonanej przez badacza bezpieczeństwa. Badacz, Joshua Michael, znalazł lukę bez uwierzytelniania, która dawała mu token dostępu bez danych logowania, podaje The Intercept. Użył go do odpytywania ArcGIS, zewnętrznej warstwy mapowej używanej przez Flock, żeby pobrać bazę urządzeń Flock w listopadzie 2025. Powstała Flock Surveillance Map zawiera 335 701 lokalizacji kamer. Flock twierdzi, że jej platforma chmurowa nigdy nie została naruszona. Michael powiedział The Intercept, że firma ogłosiła to po tym, jak pobrał bazę urządzeń.