Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Meta öffnet Muse-Bug-Bounty mit bis zu 300.000 Dollar, Robotertests zeigen Lücken bei KI-Sicherheit

Meta hat sein Bug-Bounty-Programm für den Agenten Muse am 25. September für die Öffentlichkeit geöffnet. Für gültige Meldungen zahlt das Unternehmen bis zu 300.000 Dollar, für erfolgreiche Prompt-Injection-Versuche mit Auswirkung auf einen Nutzer bis zu 130.000 Dollar.

KI & ModelleErklärtLena BrandtVeröffentlicht: 28. September 20263 Min. LesezeitQuellen 4
Meta öffnet Muse-Bug-Bounty mit bis zu 300.000 Dollar, Robotertests zeigen Lücken bei KI-Sicherheit

Meta hat sein Bug-Bounty-Programm für den Agenten Muse am 25. September für die Öffentlichkeit geöffnet, wie aus einem Beitrag von Meta AI Research hervorgeht. Das Programm zahlt bis zu 300.000 Dollar für gültige Meldungen, darunter bis zu 130.000 Dollar für erfolgreiche Prompt-Injection-Versuche, die einen Nutzer betreffen.

Das Unternehmen teilte mit, Muse durch Dogfooding, agentisches Red Teaming und durch Meldungen von Sicherheitsforschern in einem privaten Bug-Bounty-Programm gehärtet zu haben. Muse, ein persönlicher Agent, läuft laut Meta in einer isolierten Zelle: ein systemd-nspawn-Container mit eigenem Root-Dateisystem, eigener virtueller Netzwerkschnittstelle, gefilterten Systemaufrufen und begrenzten Kernel-Rechten. Root innerhalb der Zelle ist einem unprivilegierten Host-Nutzer zugeordnet, Root in der Zelle entspricht also nicht Root auf dem Host. Metas Beitrag ist die ausführlichste öffentliche Darstellung der Sicherheitstechnik in diesem Dossier. Sie erscheint aber zusammen mit Forschung, die zeigt, wie schwer sich diese Technik überprüfen lässt.

Am 27. September berichtete The Decoder über Forscher von Stanford und Caltech, die HomeBody gebaut haben. Das System lässt einen Roboter vom Typ Unitree G1 selbstständig durch eine unbekannte Küche fahren, aufräumen und Gegenstände aus Schubladen holen. HomeBody lässt die übliche trainierte Steuerungsschicht zwischen Sprachmodell und Roboter weg: Ein austauschbares Vision-Language-Modell, hier GPT Astra, ruft direkt eine Bibliothek von Fähigkeiten auf, etwa Greifen, Navigieren und Schubladen öffnen. Der Roboter erkundet zuerst den Raum, baut einen digitalen Zwilling in Nvidias Isaac Sim und trägt Objekte und Positionen in ein räumliches Gedächtnis ein. So findet er Gegenstände wieder, die aus seinem Sichtfeld verschwunden sind. Bei Aufgaben wie „Küche aufräumen“ plant das Sprachmodell jeden Schritt und korrigiert sich bei Fehlern selbst. The Decoder nannte als Einschränkungen die Latenz von Astra, überhitzende Fingermotoren und hohe Rechenkosten. Der Code liegt auf GitHub. Frühere Benchmarks hätten die deutlich verbesserte räumliche Schlussfolgerung von Astra gezeigt, schrieb das Portal, während ein anderer Benchmark Sicherheitsprobleme meldete, wenn Astra einen Roboter steuert.

Am selben Tag berichtete The Decoder über Boris Power, den Head of Applied Research bei OpenAI. Er sagte, 80 bis 90 Prozent der Forschung des Unternehmens gingen in GPT 7, GPT 8 und darüber hinaus, weil dort „der größte Teil des Werts“ liege. Schrittweise Aktualisierungen innerhalb einer Generation, etwa von GPT 5.1 auf 5.2, kämen aus spezialisierten Trainingsdaten, seien aber bewusst kurzfristig angelegt, so Power. Die größte Hürde bei heutigen Assistenten sei das Onboarding, nicht die Modellqualität. Die meisten ChatGPT-Nutzer wüssten nicht, was sie mit KI tun können.

Diese Aussagen umreißen eine Lücke, um die das Sicherheitsmaterial im Dossier immer wieder kreist. Meta sagt, Muse könne und werde weiterhin Fehler machen, und das System gehe davon aus, dass der Agent angegriffen werden könnte. OpenAI sagt, der Sprung komme mit einer neuen Modellgeneration. Beides ist keine Garantie, und die Arbeit an HomeBody zeigt, dass Fehler nicht nur digital, sondern auch physisch auftreten.

Andernorts berichtete Tom's Hardware am 27. September, Flock wolle eine Karte seiner Kameras entfernen lassen, die ein Sicherheitsforscher erstellt hat. Der Forscher Joshua Michael fand laut The Intercept eine nicht authentifizierte Schwachstelle, die ihm ohne Zugangsdaten ein Zugriffstoken gab. Damit fragte er ArcGIS ab, eine Kartenschicht von Drittanbietern, die Flock nutzt, und erhielt im November 2025 eine Datenbank mit Flock-Geräten. Die daraus entstandene Flock Surveillance Map listet 335.701 Kamerastandorte. Flock erklärt, seine Cloud-Plattform habe nie eine Datenpanne erlebt. Michael sagte The Intercept, das Unternehmen habe diese Erklärung abgegeben, nachdem er die Gerätedatenbank abgerufen hatte.

Kommentare 0

Quellen

4
  1. 01We Built Safety into MuseEN
  2. 02Researchers plug GPT-6 Astra directly into a robot and let it clean up an unfamiliar kitchenEN
  3. 03OpenAI says 80 to 90 percent of its research already targets GPT 7 and beyondEN
  4. 04Flock seeks to have security researchers' map of Flock cameras taken downEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.