OpenAI vervierfacht Bug Bounties, während Open-Source-Projekte unterbesetzt bleiben

OpenAI hat am 3. November mitgeteilt, die Bug-Bounty-Auszahlungen vervierfacht zu haben. Kritische Lücken in ChatGPT oder Codex sind nun bis zu 30.000 Dollar wert, außergewöhnliche Funde erreichen mit Boni rund 172.000 Dollar. Die Open-Source-Projekte darunter können mit diesem Tempo nicht mithalten.

Für alle, die eine Website oder einen Abhängigkeitsbaum betreiben, hat sich der Engpass verschoben. Fehler zu finden wird billiger und schneller. Sie zu bestätigen, Patches zu schreiben und Releases auszuliefern nicht. Und niemand hat einen Plan veröffentlicht, wie diese Hälfte der Arbeit finanziert werden soll.

Das Programm von OpenAI, über das The Decoder am 3. November berichtete, zahlt für außergewöhnliche Funde bis zu 100.000 Dollar, dazu kommen Boni für Qualität, Treue und Kampagnen. Neu sind ein Treuestufenmodell mit fünf Stufen und zeitlich begrenzte Kampagnen zu Produktstarts. Forscher, die in den vergangenen 30 Tagen eine Lücke gemeldet haben, erhalten die Differenz rückwirkend. OpenAI bereitet außerdem einen Security-Sprint mit der Firma Cathedral vor. Beim letzten arbeiteten 25% der Produktingenieure von OpenAI daran, Schwachstellen zu finden.

Externe zu bezahlen ist ein Hebel. Personal ist ein anderer, und dort laufen die Zahlen in die andere Richtung.

Der kostenlose OSS Scanner von Anthropic, dessen Anmeldung am 8. Oktober geöffnet wurde, gibt förderfähigen Open-Source-Projekten wiederkehrende Code-Reviews durch die Frontier-Modelle des Unternehmens, darunter Claude Mythos. Jeder Bericht enthält einen Reproduzierer, eine Erklärung und, sofern verfügbar, einen Patch-Vorschlag. Die Ausgabe stammt vollständig vom Modell, ohne menschliche Sichtung. Anthropic weist darauf hin, dass Berichte falsch sein können. TechTarget berichtete am 30. Oktober, die Modelle hätten 29.432 mögliche Schwachstellen gefunden. Anthropic hatte 6.123 davon manuell geprüft, 513 Funde wurden upstream gepatcht. Als Pen-Tester 97 kritische und hochgradige Funde in 48 Projekten nachprüften, erfüllten 88% die Kriterien für eine Offenlegung; 11 waren Duplikate und einer ein falsch-positiver Befund.

"Der Scan ist kostenlos, aber die Zeit, die man für die Bearbeitung seiner Funde braucht, nicht", sagte Krishna Shakula, AI-Ingenieur bei der Anwaltskanzlei Robertson, Anschutz, Schneid, Crane & Partners, gegenüber TechTarget.

Diese Lücke zeigt sich in der Arbeit selbst. Ein Modell kann ein verdächtiges Muster in Sekunden markieren. Ein Maintainer muss es trotzdem reproduzieren, entscheiden, ob es in diesem Projekt ausnutzbar ist, die Dringlichkeit einschätzen und den vorgeschlagenen Fix prüfen. Selbst eine echte Schwachstelle kann Stunden dauern, bis sie sicher behoben ist.

Am deutlichsten wird die Rechnung bei PHP. Die Skriptsprache steckt hinter rund 69% der Websites, deren serverseitige Sprache bekannt ist, nach Schätzungen von W3Techs, die BigGo Finance zitiert. Die PHP Foundation, die die Sicherheitsreaktionen für diese Codebasis koordiniert, hat eine Vollzeitkraft. Geschäftsführerin Elizabeth Barron sagte gegenüber BigGo Finance, sie arbeite mit etwa 14 Teilzeitvertragspartnern und unbezahlten Vorstandsmitgliedern. Die Nachfrage nach Fixes habe sich verdoppelt, seit KI die Fehlersuche erleichtert, sagte sie, die Zahl der Mitarbeiter aber nicht. Zwei kritische PHP-Lücken, die ein Team mit OpenAI-Modellen fand, erzwangen Notfall-Patches, und Cloudflare erklärte, die Auswirkungen reichten bis zu Servern mit PHP 5.4 und neuer.

Cloudflare-CEO Matthew Prince sagte in einem Beitrag auf X, innerhalb von 24 Stunden nach der Offenlegung seien Millionen von Angriffsversuchen beobachtet worden. Die Cyber-Abteilung des FBI warnte, die Lücken könnten eine Remote-Code-Ausführung im PHP-Kern ermöglichen.

Cloudflare fügte Firewall-Regeln hinzu, um die Angriffe zu blockieren, und GoDaddy patchte sein Managed Hosting und teilte Kunden mit, sie müssten nichts tun. Cloudflare eröffnete außerdem auf HackerOne einen Capture-the-Flag-Wettbewerb mit Preisen von 100 bis 10.000 Dollar, aufgebaut um eine absichtlich verwundbare PHP-Umgebung. Am kleineren Ende ist das Bewusstsein dünner. In einer Umfrage von Network Solutions unter 121 US-Kleinunternehmern mit eigener Website hatten 45% noch nie von PHP gehört.

Kostenlose defensive Werkzeuge kommen weiterhin. Die PrivacySafe Foundation veröffentlichte 57 Open-Source-Skripte, die 139 Schwachstellen in 67 Projekten und 10 Programmiersprachen abdecken, wie Security Today am 29. Oktober berichtete. Die Liste enthält PHP2Shell, und die meisten Skripte prüfen Konfigurationen, ohne Systemcode zu ändern.

Am 3. November erschien ein kostenloser Open-Source-Kurs für KI-Red-Teams mit mehr als 60 Stunden Material und Docker-Labs auf Basis von garak, PyRIT und promptfoo. Er bringt Menschen bei, Chatbots zu knacken und Modelle mit Hintertüren zu versehen. Es sind dieselben Fähigkeiten, die Maintainer brauchen, um zu prüfen, ob ein maschinell erzeugter Fund echt ist.

Geld fließt nicht auf diese Seite der Bilanz. OpenAIs Bounty zahlt für Funde zu OpenAIs eigenen Produkten, und Anthropics Scanner zahlt nichts für die Patches, die er vorschlägt. Barron sagt, die Finanzierung zur Unterstützung von PHP fehle stark.

Weder OpenAI noch Anthropic haben veröffentlicht, wie viele Projekte ihr Programm abdeckt. Die Größe der Lücke bleibt Schätzungen überlassen.