Meta öffnet Muse-Bug-Bounty mit bis zu 300.000 Dollar, Robotertests zeigen Lücken bei der KI-Sicherheit

Meta hat sein Bug-Bounty-Programm für den Agenten Muse am 25. September für die Öffentlichkeit geöffnet. Das geht aus einem Beitrag von Meta AI Research hervor. Das Programm zahlt bis zu 300.000 Dollar für gültige Meldungen, darunter bis zu 130.000 Dollar für erfolgreiche Prompt-Injection-Angriffe, die einen Nutzer betreffen.

Das Unternehmen erklärte, Muse sei durch Dogfooding, agentisches Red Teaming und durch Hinweise von Sicherheitsforschern in einem privaten Bug-Bounty-Programm gehärtet worden. Muse ist ein persönlicher Agent und läuft in einer isolierten Zelle. Gemeint ist ein systemd-nspawn-Container mit eigenem Root-Dateisystem, einer virtuellen Netzwerkschnittstelle, gefilterten Systemaufrufen und begrenzten Kernel-Rechten. Root innerhalb der Zelle entspricht einem unprivilegierten Nutzer auf dem Host. Das Zellen-Root zur Laufzeit ist also nicht das Host-Root. Metas Beitrag ist die ausführlichste öffentliche Darstellung der Sicherheitstechnik in dem Dossier. Er erscheint jedoch parallel zu Forschung, die zeigt, wie schwer sich diese Technik überprüfen lässt.

Am 27. September berichtete The Decoder, dass Forscher von Stanford und Caltech HomeBody gebaut haben. Das System lässt einen Unitree G1 autonom eine unbekannte Küche durchqueren, aufräumen und Gegenstände aus Schubladen holen. HomeBody lässt die übliche trainierte Steuerungsschicht zwischen Sprachmodell und Roboter weg. Ein austauschbares Vision-Language-Modell, hier GPT Astra, ruft direkt eine Skill-Bibliothek für Greifen, Navigieren und das Öffnen von Schubladen auf. Der Roboter erkundet den Raum zuerst, baut einen digitalen Zwilling in Nvidias Isaac Sim und protokolliert Objekte und Positionen im räumlichen Gedächtnis. So findet er Gegenstände wieder, die aus seinem Sichtfeld verschwunden sind. Bei Aufgaben wie „Küche aufräumen“ plant das Sprachmodell jeden Schritt und korrigiert sich bei Fehlern selbst. The Decoder nannte Grenzen: die Latenz von Astra, überhitzende Fingermotoren und hohe Rechenkosten. Der Code liegt auf GitHub. Frühere Benchmarks zeigten laut dem Medium die deutlich verbesserte räumliche Schlussfolgerungsfähigkeit von Astra. Ein anderer Benchmark meldete Sicherheitsprobleme, wenn Astra einen Roboter steuert.

Am selben Tag berichtete The Decoder, dass Boris Power, Head of Applied Research bei OpenAI, sagte, 80 bis 90 Prozent der Forschung des Unternehmens flössen in GPT 7, GPT 8 und darüber hinaus. Dort liege „der größte Teil des Werts“. Schrittweise Aktualisierungen innerhalb einer Generation, etwa von GPT 5.1 auf 5.2, stammten aus spezialisierten Trainingsdaten, seien aber bewusst kurzfristige Wetten, so Power. Die größte Herausforderung bei heutigen Assistenten sei das Onboarding, nicht die Modellqualität. Die meisten ChatGPT-Nutzer wüssten nicht, was sie mit KI tun können.

Diese Aussagen umreißen eine Lücke, um die das Sicherheitsmaterial des Dossiers immer wieder kreist. Meta sagt, Muse könne und werde weiterhin Fehler machen, und das System gehe davon aus, dass der Agent angegriffen werden könnte. OpenAI sagt, der Sprung komme mit einer neuen Modellgeneration. Keine der beiden Aussagen ist eine Garantie. Die Arbeit an HomeBody zeigt, dass die Fehlermodi physisch und digital sind.

An anderer Stelle berichtete Tom's Hardware am 27. September, dass Flock erreichen will, dass eine Karte seiner Kameras von einem Sicherheitsforscher entfernt wird. Der Forscher Joshua Michael fand laut The Intercept eine nicht authentifizierte Schwachstelle. Sie gab ihm ohne Anmeldedaten ein Zugriffstoken. Damit fragte er ArcGIS ab, eine von Flock genutzte Kartierungsebene eines Drittanbieters, und rief im November 2025 eine Datenbank mit Flock-Geräten ab. Die daraus entstandene Flock Surveillance Map listet 335.701 Kamerastandorte. Flock erklärt, seine Cloud-Plattform habe nie eine Datenpanne erlebt. Michael sagte The Intercept, das Unternehmen habe diese Erklärung abgegeben, nachdem er die Gerätedatenbank abgerufen hatte.