Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Meta öffnet Muse-Bug-Bounty mit 300.000 Dollar Spitzenprämie, während Flock eine Beschwerde zur Kamera-Karte bekommt

Meta hat sein Bug-Bounty-Programm für den Muse-Agenten für die Öffentlichkeit geöffnet und zahlt bis zu 300.000 Dollar für gültige Meldungen, davon bis zu 130.000 Dollar für eine einzige erfolgreiche Prompt-Injection. Das geht aus einem Forschungsblog vom 25. September hervor. Zwei Tage später bat Flock darum, eine Karte mit 335.701 seiner Kameras offline zu nehmen.

KI & ModelleAnalyseLena BrandtVeröffentlicht: 28. September 20264 Min. LesezeitQuellen 4
Meta öffnet Muse-Bug-Bounty mit 300.000 Dollar Spitzenprämie, während Flock eine Beschwerde zur Kamera-Karte bekommt

Meta veröffentlichte die Bedingungen am 25. September, und die Zahlen sind die Geschichte. Das Unternehmen zahlt bis zu 300.000 Dollar für gültige Meldungen, bis zu 130.000 Dollar sind für eine Prompt-Injection reserviert, die einen Nutzer betrifft. Meta schreibt, das Programm sei zuvor privat gewesen, und der Schritt folge auf agentisches Red Teaming und Erkenntnisse aus echten Angriffsszenarien.

Der Beitrag stammt von Meta AI Research und beschreibt eine Architektur, die davon ausgeht, dass der Agent über die Daten angegriffen wird, die er liest. Der Agent-Harness läuft in einem systemd-nspawn-Container, in dem root auf einen unprivilegierten Host-Nutzer abgebildet wird. Er bekommt ein eigenes Debian-Root-Dateisystem und einen gefilterten Satz an Systemaufrufen, der io_uring, CAP_SYS_PTRACE und CAP_NET_ADMIN blockiert. Sicherheitsklassifikatoren und privilegierte Connector-Worker stehen bewusst außerhalb dieser Zelle, damit ein Angreifer sie nicht abschalten kann.

Das ist eine Designbehauptung, kein Ergebnis. Meta schreibt offen, dass Muse weiterhin Fehler machen kann und machen wird, erwartet aber, dass sie seltener und weniger schädlich ausfallen. Die Tests stützen sich bisher auf Dogfooding, Red Teaming und das private Bounty-Programm. Das ist dünne Evidenz für einen Agenten, dem Meta zufolge seit Anfang 2026 Postfächer, Kalender und eine Shell übergeben wurden.

Der Kontrast zu den Ereignissen am selben Wochenende ist schwer zu übersehen.

Am 27. September berichtete Tom's Hardware, Flock habe eine Klage wegen Markenverletzung eingereicht, um die Karte eines Sicherheitsforschers mit seinen Kameras offline nehmen zu lassen. Die Seite listet 335.701 Kamerastandorte. Laut The Intercept, zitiert von Tom's Hardware, fand der Forscher Joshua Michael eine nicht authentifizierte Schwachstelle auf der Flock-Website, die ohne Anmeldedaten ein Zugriffstoken zurückgab. Anschließend fragte er ArcGIS ab, die Kartenschicht eines Drittanbieters, die Flock nutzt, und zog im November 2025 eine Gerätedatenbank ab.

Michael sagte The Intercept, er habe die Schwachstelle am 13. November 2025 gemeldet und geschrieben, alle Tests seien strikt nicht intrusiv gewesen und auf offene, nicht authentifizierte Endpunkte beschränkt. Tom's Hardware berichtet, Flock habe auf seine erste Nachricht nicht geantwortet, erst nach zwei weiteren Versuchen habe ein Vertreter reagiert und erklärt, die Befunde würden intern geprüft. Michael sagt, das Unternehmen habe bis heute nicht geantwortet. Flock schloss die Lücke im Januar, nachdem er veröffentlicht hatte, doch die Datenbank war bereits abgeflossen.

Das Unternehmen erklärt, die Cloud-Plattform von Flock Safety habe nie eine Datenpanne erlebt. Michael bestreitet das und sagte The Intercept, die Erklärung sei gekommen, nachdem er die Gerätedatenbank abgezogen hatte.

Seine Einordnung ist deutlich: Entweder wusste das Unternehmen davon und entschied sich, es nicht offenzulegen, oder es hat den Abfluss gar nicht bemerkt. Das erste sei ein Transparenzversagen, sagte er, das zweite ein Erkennungsversagen mit Folgen für die nationale Sicherheit. Tom's Hardware nennt außerdem frühere Befunde: Flock-Kameras speicherten Verschlüsselungsschlüssel auf dem Gerät, was die Extraktion von mehr als 27.000 Clips ermöglichte, und zeigten 1.600.000 Bilder, die über 21 Tage aufgenommen wurden. Dazu kommen Fälle, in denen Beamte das System missbrauchten.

Beide Geschichten drehen sich um dieselbe Lücke: was eine Evaluierung tatsächlich misst. Metas Bounty bepreist eine Prompt-Injection mit bis zu 130.000 Dollar für einen betroffenen Nutzer. Diese Summe sagt, dass das Unternehmen einen einzelnen Bypass für plausibel hält. Flocks Fall legt nahe, dass das schwierigere Problem nicht der Bau einer Verteidigung ist, sondern das Bemerken, wenn sie bereits überwunden wurde.

Andernorts bewegt sich die Debatte über Evaluierung schneller als die Einsätze. The Decoder berichtete am 27. September, Forscher von Stanford und Caltech hätten HomeBody gebaut, das GPT-6 Astra direkt an einen Roboter vom Typ Unitree G1 anschließt, ohne trainierte Steuerungsschicht zwischen Modell und Hardware. Der Roboter erkundet eine unbekannte Küche, baut einen digitalen Zwilling in Nvidias Isaac Sim und korrigiert sich bei Fehlern selbst. Zu den genannten Grenzen gehören die Latenz von Astra, überhitzende Fingerservos und hohe Rechenkosten.

Am selben Tag berichtete The Decoder, Boris Power, Head of Applied Research bei OpenAI, habe gesagt, 80 bis 90 Prozent der Forschung des Unternehmens zielten inzwischen auf GPT 7, GPT 8 und darüber hinaus. Power nannte inkrementelle Updates wie GPT 5.1 auf 5.2 intern extrem kurzsichtig, obwohl sie nützlich seien, um schnell zu iterieren. Das größte Hindernis für aktuelle Assistenten sei das Onboarding, nicht die Modellqualität, sagte er.

Zusammengenommen widersprechen sich die drei Positionen nicht, sie folgen aufeinander. Meta bepreist den Fehler, den es erwartet. Flock zeigt, was ein unerkannter Fehler kostet. OpenAI gibt den größten Teil seiner Forschung bereits für Modelle aus, die es noch nicht ausgeliefert hat, und geht davon aus, dass jede Generation schlicht besser funktioniert.

Kommentare 0

Quellen

4
  1. 01We Built Safety into MuseEN
  2. 02Flock seeks to have security researchers' map of Flock cameras taken downEN
  3. 03Researchers plug GPT-6 Astra directly into a robot and let it clean up an unfamiliar kitchenEN
  4. 04OpenAI says 80 to 90 percent of its research already targets GPT 7 and beyondEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.