Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Open-Source-Sicherheit versinkt in KI-Müll, und die Bug-Bounties zahlen den Preis

Google nimmt seit dem 1. Oktober keine neuen Meldungen zu Produktschwachstellen im Open Source Software Vulnerability Reward Program mehr an. Als Grund nennt das Unternehmen eine Flut ungültiger, von KI erzeugter Einsendungen. Die Pause dauert mindestens bis zum ersten Quartal 2027.

TechnologieAnalyseLena BrandtVeröffentlicht: 4. Oktober 20265 Min. LesezeitQuellen 8
Open-Source-Sicherheit versinkt in KI-Müll, und die Bug-Bounties zahlen den Preis

Google kündigte die Aussetzung am 1. Oktober in einem Beitrag auf X an, wie Tom's Hardware berichtete. Die Änderung trat am selben Tag in Kraft. Meldungen, die vor diesem Datum eingegangen sind, sind nicht betroffen.

Google teilte mit, für einige Google-Cloud-Repositories möglicherweise weiterhin Produktschwachstellen über das Cloud VRP anzunehmen. Meldungen zur Lieferkette im OSS VRP bleiben offen. Das ist für alle relevant, die Open-Source-Code betreiben, also für den größten Teil des Internets. Maintainer erhalten weniger kostenlose Prüfung von externen Forschern, zumindest vorerst. Google hat ein Update bis zum ersten Quartal 2027 zugesagt. Wie ein neu aufgebautes Programm aussehen soll und wie viel der alten Abdeckung es zurückbringt, hat das Unternehmen nicht gesagt.

Das Programm bezahlt unabhängige Forscher dafür, Fehler im Open-Source-Ökosystem von Google zu finden und offenzulegen. Einsendungen zu Produktschwachstellen betreffen Codefehler. Meldungen zur Lieferkette betreffen eine andere Gruppe von Problemen in den Abhängigkeiten, die Projekte einbinden. Google selbst formuliert es laut Tom's Hardware so, dass dieser Teil des Programms neu formatiert wird.

Warum die Meldungen nicht mehr nützlich waren

Auslöser ist die Menge. Tom's Hardware berichtete, das Programm sei wegen eines Zustroms ungültiger, KI-getriebener Meldungen ausgesetzt worden. Das ist keine Einzelbeschwerde. Derselbe Bericht hielt fest, dass Linux die Unterstützung für ältere Netzwerktreiber aufgab, nachdem eine Welle falscher, von KI erzeugter Fehlermeldungen eingegangen war. Das ist derselbe Fehlermodus in kleinerem Maßstab.

Zwei Meldungen der vergangenen Tage zeigen die beiden Seiten. Am 2. November führte ein öffentlicher Tracker der CVEs, die dem Forschungsteam von Anthropic zugeschrieben werden, Apache Arrow in Rust mit einem CVSS-Score von 9,9 auf. Er listete außerdem drei Schwachstellen in NLnet Labs Krill mit einer Bewertung von 8,4. Diese Einträge stehen in demselben Tracker, der SQLite am 30. Oktober mit 6,8 und Nextcloud Server am 27. Oktober mit 5,3 verzeichnet, laut dem GitHub-Repository, das patrickmgarrity pflegt.

KI-gestützte Prüfung findet also echte, ernste Fehler. Das Problem ist das Verhältnis. Ein Bounty-Programm muss jede Einsendung sichten. Eine Meldung, die sich als Halluzination erweist, kostet denselben Prüfer genauso viel Zeit wie eine echte.

Diese Asymmetrie ist die ganze Geschichte. Kandidaten zu finden wurde billig. Zu entscheiden, welche echt sind, nicht.

Forscher bauen die Filter selbst

Caleb Gross, ein Offensive-Security-Forscher, veröffentlichte am 4. November das Transkript eines Vortrags. Es beschreibt Werkzeuge, die genau für dieses Sichtungsproblem gebaut wurden. Sein Tool Slice reproduzierte die Entdeckung eines Use-after-free im SMB-Server des Linux-Kernels für etwa 3 US-Dollar pro Lauf, wie aus seiner Beschreibung auf noperator.dev hervorgeht. Sein Tool Raink ordnet große Datensätze mit LLMs in O(N)-Komplexität. Er sagt, es könne rund 2.700 GitHub-Repos, etwa 3.000 Kernel-Subsysteme oder ungefähr 1.500 Patch-Diff-Funktionen priorisieren.

In Gross' Vortrag geht es um Priorisierung, nicht um Erkennung. Sein Argument: Der Engpass ist die Entscheidung, welche Angriffsfläche zu untersuchen ist, nicht das Finden der Fehler selbst.

Die Branchenpraxis beginnt, dem zuzustimmen. Googles Einfrieren ist die grobe Form dieses Urteils: Wenn die Warteschlange nicht sortiert werden kann, wird die Warteschlange geschlossen.

Was die geschlossene Warteschlange verdeckt

Die Pause eines Anbieters ist nicht dasselbe wie ein Rückgang der Schwachstellensuche. Der Tracker mit Verbindung zu Anthropic zeigt Ende Oktober und Anfang November einen stetigen Strom. The Register berichtete am 3. Oktober, das Fehlersuchmodell Mythos von Anthropic sei an einer Schwachstelle beteiligt gewesen, die seitdem angegriffen wird. Das deutet darauf hin, dass die Werkzeuge weiterhin Funde liefern, ob Googles Programm offen ist oder nicht.

Das Risiko liegt bei Projekten, die auf die Aufmerksamkeit aus dem Bounty-Programm als einzige externe Prüfung setzten. Eine kleine Bibliothek ohne Sicherheitsteam und ohne bezahltes Audit bekommt nichts von einem Programm, das geschlossen ist, auch wenn die Schließung vorübergehend ist.

Google hat nicht gesagt, wie viele Meldungen das Programm vor der Pause bearbeitete oder welcher Anteil ungültig war. Ebenso wenig, ob sich das Budget des Programms ändert. Diese Zahlen würden Maintainern zeigen, wie viel Prüfung sie tatsächlich verlieren.

Die Ausnahme für das Cloud VRP ist eng. Sie deckt einige Google-Cloud-Repos ab, deren Fehler Google-Cloud-Produkte betreffen. Eine allgemeine Abdeckung von Open-Source-Code, den Google nicht als Dienst betreibt, stellt sie nicht wieder her.

Die parallele Debatte darüber, wie Fehler gefunden werden

Dieselbe Woche brachte eine separate Debatte darüber, wer suchen sollte. David Robinson leitete das Verfassen von Sicherheitsberichten, die Produktveröffentlichungen von OpenAI begleiteten. Er trat zurück und schrieb im Atlantic, die Kultur des Unternehmens sei kaputt, wie der Guardian am 3. Oktober berichtete. Er argumentierte, KI-Firmen seien nicht sorgfältig genug. Er forderte Sicherheitskompetenz aus Bereichen wie Kernkraft und Luftfahrt.

Robinsons Essay handelt von Modellsicherheit, nicht von Bounty-Programmen. Er sollte nicht auf Googles Entscheidung ausgedehnt werden. Aber beide Geschichten drehen sich um dieselbe Frage: Was passiert, wenn die Menge maschinell erzeugter Ausgaben die Menschen überholt, die sie prüfen sollen.

Für Open-Source-Maintainer lautet die praktische Antwort dieser Woche, dass eine große Quelle kostenloser Prüfung verstummt ist. Für Forscher, die vor dem 1. Oktober echte Meldungen eingereicht haben, ändert sich nichts. Für alle anderen ist die Warteschlange geschlossen.

Googles Zusage ist ein Update bis zum ersten Quartal 2027. Bis dahin bleibt der Lieferkettenkanal des OSS VRP offen. Das Cloud VRP deckt einen Teil der Google-Cloud-Repositories ab. Keines von beiden ersetzt die Pipeline für Produktschwachstellen, die am 1. Oktober geschlossen wurde.

Kommentare 0

Quellen

8
  1. 01Google freezes open-source bug bounty program amid flood of invalid AI slopEN
  2. 02Tracking vulnerabilities that credit the Anthropic research teamEN
  3. 03O(N) the Money: Scaling Vulnerability Research with LLMsEN
  4. 04OpenAI safety leader quits, warning AI company's culture is 'broken'EN
  5. 05Xray-core concealed a certificate verification bypass vulnerabilityEN
  6. 06Command injecting a reference tool to copy a source fileEN
  7. 07PhotoSuite Is an Open Source Photoshop-Like Editor with Native PSD SupportEN
  8. 08OpenBSD Developers Reject uutils Coreutils Port Over Licensing and Compatibility ConcernsEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.