Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Google setzt OSS-Bug-Bounty wegen KI-Müll aus, Anthropic-Meldungen steigen

Google hat am 1. Oktober die Meldung von Produktschwachstellen im Open Source Software Vulnerability Reward Program eingefroren. Das Unternehmen nennt eine Flut ungültiger, von KI erzeugter Berichte als Grund.

TechnologieAnalyseKatrin HoffmannVeröffentlicht: 4. Oktober 20264 Min. LesezeitQuellen 9
Google setzt OSS-Bug-Bounty wegen KI-Müll aus, Anthropic-Meldungen steigen

Google hat am 1. Oktober 2026 die Meldung von Produktschwachstellen im Open Source Software Vulnerability Reward Program (OSS VRP) eingefroren, wie Tom's Hardware berichtet. Die Flut ungültiger KI-Berichte mache die Sichtung unmöglich, erklärte das Unternehmen. Neue Einsendungen nimmt es erst im ersten Quartal 2027 wieder an. Meldungen zu Lieferketten bleiben offen, Codefehler werden vorerst nicht mehr angenommen. Der Schritt zeigt, wie stark die Sicherheitsinfrastruktur von Open Source unter Druck gerät: Automatisierte Erkennung ist schneller als die Prüfung von Hand.

Die Aussetzung wurde über einen offiziellen X-Post bekannt gegeben.

Google forderte Teilnehmer auf, während der Pause andere VRP-Programme zu nutzen. Das Unternehmen will sich bis Q1 2027 mit einem Update melden, während es das Programm umbaut. Die Entscheidung betrifft nur Produktschwachstellen, die nach dem Stichtag eingereicht werden. Frühere Berichte werden weiter bearbeitet. Es ist nicht das erste Mal, dass KI-Rauschen Sicherheitsabläufe stört: Ähnliche Probleme zwangen Linux, die Unterstützung älterer Netzwerktreiber wegen falscher Fehlermeldungen einzustellen.

Die Flut der Fehlalarme

KI-Modelle finden theoretische Schwachstellen immer schneller. Häufig fehlt ihnen der Kontext, um ausnutzbare Fehler von harmlosen Codemustern zu unterscheiden. The Register berichtete am 3. Oktober, dass Anthropics Fehlersuchmodell Mythos bei mathematiknahen Schwachstellen sehr wirksam ist. Doch die schiere Menge der KI-Funde überfordert die Maintainer von Open Source. Der Widerspruch liegt offen: KI findet Fehler schneller, als Menschen sie beheben können, erzeugt aber auch Fehlalarme, die das Vertrauen in den Prozess untergraben.

Diese Dynamik ist kein Einzelfall bei Google. Ein Vortrag von Caleb Gross auf der Offensive AI Con in San Diego im Oktober 2025 zeigte, wie LLMs die Schwachstellenforschung mit listwise ranking algorithms skalieren. Seine Open-Source-Werkzeuge Slice und Raink priorisieren Ziele und verringern den manuellen Aufwand. Slice reproduzierte die Entdeckung eines Use-after-free im SMB-Server des Linux-Kernels für rund 3 Dollar pro Lauf. Raink ordnet rund 2.700 GitHub-Repositories, um sicherheitsrelevante Einträge sichtbar zu machen. Die Werkzeuge zeigen das Effizienzpotenzial, aber auch das Mengenproblem: Wenn jedes Repository ein potenzielles Ziel ist, sinkt das Signal-Rausch-Verhältnis ohne strenge Sichtung.

Anthropics Beitrag und die Prüfprobleme

Während Google pausiert, nutzen andere Akteure KI aktiv, um Schwachstellen zu finden und zu melden. Ein GitHub-Repository, das dem Anthropic-Forschungsteam zugeschriebene CVEs sammelt, listet mehrere Schwachstellen hoher Schwere, die am 2. Oktober 2026 veröffentlicht wurden. Dazu gehören CVE-2026-103604 und CVE-2026-103603 in der bc-csharp-Bibliothek von Legion of the Bouncy Castle, beide mit 8.7 auf der CVSS-Skala bewertet. Das Repository nennt außerdem CVE-2026-66858 in Apache Thrift, zugeschrieben Claude (Anthropic Research) und Ada Logics. Die Zahl solcher Meldungen steigt, doch die Prüfung bleibt der Engpass. Maintainer haben oft nicht die Mittel, jeden KI-Befund zu bestätigen, was das Patchen echter Fehler verzögert.

The Guardian berichtete am 3. Oktober, dass David Robinson, früher Sicherheitsverantwortlicher bei OpenAI, das Unternehmen verließ und dessen Kultur als "broken" bezeichnete. Er argumentierte, KI-Firmen seien bei ihrem Entwicklungstempo nicht "being nearly careful enough". Sein Fokus lag auf der Sicherheitskultur, doch das Grundproblem gilt auch für die Sicherheit: Schnelle Einführung ohne ausreichende Aufsicht erzeugt systemische Risiken. Für Open Source heißt das, KI-Funde strömen schneller herein, als das Ökosystem sie aufnehmen kann. Das Ergebnis ist eine zersplitterte Lage, in der manche Schwachstellen schnell behoben werden und andere in den Sichtungswarteschlangen liegen bleiben.

Infrastruktur und architektonische Schwachstellen

Neben dem KI-Rauschen hat die Open-Source-Infrastruktur mit klassischen architektonischen Risiken zu kämpfen. Ein GitHub-Issue vom 4. Oktober 2026 zeigte, dass Xray-core, eine verbreitete Proxy-Software, ein halbes Jahr lang eine Lücke zur Umgehung der Zertifikatsprüfung verschwieg. Das Issue beschrieb, wie die im Januar 2026 eingeführte Option pinnedPeerCertSha256 einen Fehler enthielt, der Man-in-the-Middle-Angriffe erlaubte. Die Maintainer hatten eine frühere Option durch die neue ersetzt und damit eine Sicherheitsschicht ohne ausreichende Warnung entfernt. Der Fall zeigt, wie manuelle Codeänderungen in kritischer Infrastruktur subtile Schwachstellen einführen können, die erst unabhängige Forscher entdecken.

Ebenso lehnten die OpenBSD-Entwickler am 30. September 2026 einen Port der coreutils-Neuimplementierung uutils ab und nannten Lizenz- und Kompatibilitätsbedenken. Theo de Raadt, der Gründer des Projekts, argumentierte, "subtly different" Binärdateien würden bestehende Pipelines brechen und die Kohärenz des Systems verletzen. Die Entscheidung spiegelt einen breiteren Konflikt in Open Source: die Lust auf neue Werkzeuge gegen das Bedürfnis nach Stabilität und Einheitlichkeit. In sicherheitskritischen Umgebungen wie OpenBSD können selbst kleine Verhaltensunterschiede erhebliche Folgen haben.

Der Weg nach vorn

Die aktuelle Lage verlangt einen Ausgleich zwischen KI-Effizienz und menschlicher Kontrolle bei der Prüfung. Googles Pause ist eine pragmatische Antwort auf einen untragbaren Ablauf, sie zeigt aber auch den Bedarf an besseren Standards für KI-erzeugte Schwachstellenmeldungen. Werkzeuge wie Slice und Raink bieten vielversprechende Methoden zur Priorisierung, doch sie brauchen strenge Sichtungsprozesse an ihrer Seite. Die Community muss zudem die Ursache angehen: die Lücke zwischen den Erkennungsfähigkeiten der KI und der Kapazität des Menschen, Fehler zu beheben. Ohne diesen Ausgleich wird Open Source Security weiter mit der Flut falscher Alarme und dem langsamen Tempo beim Beheben echter Fehler kämpfen.

Kommentare 0

Quellen

9
  1. 01Google freezes open-source bug bounty program amid flood of invalid AI slopEN
  2. 02Tracking vulnerabilities that credit the Anthropic research teamEN
  3. 03O(N) the Money: Scaling Vulnerability Research with LLMs (2025)EN
  4. 04OpenAI safety leader quits, warning AI company's culture is 'broken'EN
  5. 05Xray-core concealed a certificate verification bypass vulnerabilityEN
  6. 06OpenBSD Developers Reject uutils Coreutils Port Over Licensing and Compatibility ConcernsEN
  7. 07PhotoSuite Is an Open Source Photoshop-Like Editor with Native PSD SupportEN
  8. 08UberDDR4: The Open-Source DDR4 ControllerEN
  9. 09Kyber open source remote streaming solution architectureEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.