Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Meta otwiera bug bounty Muse, do 300 000 dolarów. Testy robotów pokazują luki w bezpieczeństwie AI

Meta otworzyła 25 września publiczny program bug bounty dla swojego agenta Muse. Firma płaci do 300 000 dolarów za zgłoszenia, w tym do 130 000 dolarów za próby prompt injection, które dotykają jednego użytkownika.

AI i modeleWyjaśnienieMarta ZielińskaOpublikowano: 28 września 20263 min czytaniaŹródła 4
Meta otwiera bug bounty Muse, do 300 000 dolarów. Testy robotów pokazują luki w bezpieczeństwie AI

Meta otworzyła publiczny program bug bounty dla agenta Muse 25 września, jak wynika z wpisu na Meta AI Research. Program płaci do 300 000 dolarów za prawidłowe zgłoszenia, w tym do 130 000 dolarów za udane próby prompt injection, które dotykają jednego użytkownika.

Firma podała, że wzmocniła Muse przez dogfooding, agentic red teaming i błędy znalezione przez badaczy bezpieczeństwa w zamkniętym programie bug bounty. Muse, opisany jako osobisty agent, działa w tym, co Meta nazywa izolowaną celą: kontenerze systemd-nspawn z własnym systemem plików root, wirtualnym interfejsem sieciowym, filtrowanymi wywołaniami systemowymi i ograniczonymi uprawnieniami jądra. Root wewnątrz celi odpowiada nieuprzywilejowanemu użytkownikowi na hoście, więc root w celi nie jest rootem na hoście. Wpis Meta to najbardziej szczegółowy publiczny opis inżynierii bezpieczeństwa w tym zestawieniu, ale ukazuje się obok badań, które pokazują, jak trudno tę inżynierię zweryfikować.

27 września The Decoder poinformował, że badacze ze Stanford i Caltech zbudowali HomeBody, system, który pozwala robotowi Unitree G1 samodzielnie poruszać się po nieznanej kuchni, sprzątać i wyjmować przedmioty z szuflad. HomeBody usuwa typową wyuczoną warstwę sterowania między modelem językowym a robotem. Wymienny model wizyjno-językowy, tutaj GPT Astra, wywołuje bezpośrednio bibliotekę umiejętności: chwytania, nawigacji i otwierania szuflad. Robot najpierw bada pomieszczenie, buduje cyfrowego bliźniaka w Nvidia Isaac Sim i zapisuje obiekty oraz ich położenie w pamięci przestrzennej. Dzięki temu znajduje przedmioty, które zniknęły z jego pola widzenia. Przy zadaniach typu „posprzątaj kuchnię” model językowy planuje każdy krok i sam poprawia błędy. The Decoder wymienił ograniczenia: opóźnienie Astry, przegrzewające się serwa palców i wysokie koszty obliczeń. Kod jest na GitHubie. Według redakcji wcześniejsze testy wykazały znacznie lepsze rozumowanie przestrzenne Astry, a inne zwróciły uwagę na problemy z bezpieczeństwem, gdy Astra steruje robotem.

Tego samego dnia The Decoder napisał, że Boris Power, szef badań stosowanych w OpenAI, powiedział, iż 80 do 90 procent badań firmy idzie na GPT 7, GPT 8 i kolejne modele, bo tam powstaje „większość wartości”. Aktualizacje w obrębie jednej generacji, na przykład przejście z GPT 5.1 na 5.2, wynikają ze specjalistycznych danych treningowych, ale są celowo krótkoterminowym zakładem, stwierdził Power. Głównym wyzwaniem dzisiejszych asystentów nazwał wdrażanie, a nie jakość modeli. Według niego większość użytkowników ChatGPT nie wie, co może zrobić z AI.

Te komentarze pokazują lukę, wokół której krąży materiał o bezpieczeństwie w zestawieniu. Meta twierdzi, że Muse może i będzie popełniać błędy, a jej system zakłada, że agent może być atakowany. OpenAI twierdzi, że skok wiąże się z nową generacją modeli. Żadne z tych zapewnień nie jest gwarancją, a prace nad HomeBody pokazują, że tryby awarii są fizyczne, nie tylko cyfrowe.

Tom's Hardware poinformował 27 września, że Flock chce usunięcia mapy swoich kamer, którą przygotował badacz bezpieczeństwa. Badacz Joshua Michael znalazł lukę bez uwierzytelniania, która dawała mu token dostępu bez danych logowania, podał The Intercept. Użył go do zapytań do ArcGIS, zewnętrznej warstwy mapowej, z której korzysta Flock, i pobrał bazę urządzeń Flock w listopadzie 2025. Powstała Flock Surveillance Map wymienia 335 701 lokalizacji kamer. Flock twierdzi, że jej platforma chmurowa nigdy nie padła ofiarą naruszenia danych. Michael powiedział The Intercept, że firma ogłosiła to po tym, jak pobrał bazę urządzeń.

Komentarze 0

Źródła

4
  1. 01We Built Safety into MuseEN
  2. 02Researchers plug GPT-6 Astra directly into a robot and let it clean up an unfamiliar kitchenEN
  3. 03OpenAI says 80 to 90 percent of its research already targets GPT 7 and beyondEN
  4. 04Flock seeks to have security researchers' map of Flock cameras taken downEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.