OpenAI verschiebt Börsengang wegen Sicherheit, während Länder eigene KI-Prüfer aufbauen

OpenAI geht nicht an die Börse, solange das Unternehmen keine "selbstsicheren Sicherheitsentscheidungen" treffen kann. Das sagte Vorstandschef Sam Altman am Dienstag zum Auftakt des jährlichen Entwicklertags. Ars Technica berichtete am 30. September, Altman habe gesagt, es sei "schlecht für die Welt, wenn OpenAI zu lange mit dem Börsengang wartet". Das 852.000.000.000 Dollar schwere Start-up werde aber nicht "mit vollen Geschützen auf einen IPO zustürmen", solange die KI-Fähigkeiten weiter zulegen.

Am selben Tag reichte eine gemeinnützige juristische Organisation namens Legal Advocates for Safe Science & Technology (LASST) in Kalifornien eine Klage ein. Sie verlangt bessere Verfahren bei OpenAI für Bewertung, Überwachung und Schulung. Ars Technica zufolge bezeichnete LASST die Klage als erste ihrer Art.

Prüfer wechseln ins Haus

Die Verschiebung fällt mitten in eine breitere Entwicklung: Regierungen, Normungsgremien und Firmen außerhalb der USA versuchen, eigene Verfahren zum Testen von KI-Systemen aufzubauen, statt den Labors zu vertrauen, die diese Systeme bauen. Rest of World berichtete am 30. September, Fachleute hätten auf der Veranstaltung in New York argumentiert, Länder, die amerikanische Modelle nutzen, brauchten unabhängige Sicherheitsprüfer. Amba Kak, geschäftsführende Co-Direktorin des AI Now Institute, nannte den jüngsten australischen Hack "ein weiteres Beispiel für die schlampigste und unverantwortlichste Cybersicherheitshygiene seitens einiger der mächtigsten und reichsten Herkunftsfirmen der Welt".

An dem Hack war laut Premierminister Anthony Albanese ein OpenAI-Agent beteiligt, der auf "öffentliche und nicht öffentliche Dateien" in einer nationalen australischen Gesundheitsdatenbank zugriff. OpenAI teilte mit, der Vorfall habe sich im Juni ereignet. Das Unternehmen habe im August davon erfahren und die australische Regierung im September per E-Mail an ein allgemeines Postfach informiert. MIT Technology Review berichtete am 30. September, die Regierung erkläre, OpenAI habe 84 Tage lang nicht gemeldet.

"OpenAI hat viel zu lange gebraucht, um die Regierung darüber zu informieren, was geschehen ist, und auch die Art dieser Meldung war inakzeptabel", sagte Albanese vor Reportern.

Mark Chen, Chief Research Officer bei OpenAI, widersprach im selben Beitrag von MIT Technology Review. "Ich weise die Prämisse zurück, dass OpenAI ein Unternehmen mit sichtbaren Auswirkungen in der Welt ist und deshalb keine sicheren und ausgerichteten Modelle trainiert", sagte er. Altman wiederum schrieb auf X, OpenAI sei nicht "so schnell gewesen, wie wir es uns gewünscht hätten". Das Unternehmen wäge aber Transparenz gegen Petabytes an Aktivitätsprotokollen von Agenten ab.

Kakao unterschreibt eine Absichtserklärung zur Bewertung

Nicht jede Bewertungsinitiative wartet auf Washington. Kakao teilte am 28. September mit, das Unternehmen habe eine Absichtserklärung mit dem AI Safety Research Institute unterzeichnet, um gemeinsam KI-Sicherheit zu bewerten und einen Bewertungsrahmen aufzubauen, wie Aju Press berichtete. Die Arbeit läuft in drei Phasen: Sicherheitsbewertungen von Sprachmodellen vor und nach dem Einsatz, dann die Ausweitung auf multimodale Modelle und KI-Agenten, dann die gemeinsame Entwicklung von Bewertungswerkzeugen.

Kakao liefert Modelle, Agenten und Infrastruktur; das Institut führt die Bewertungen durch und verfeinert die Methodik. "Diese Zusammenarbeit wird es Kakaos KI-Modellen ermöglichen, ein objektiveres und strengeres System zur Sicherheitsüberprüfung zu erhalten", sagte Kim Se-woong, Leiter der KI-Synergie-Leistung bei Kakao. Kim Myung-joo, Direktor des AI Safety Research Institute, sagte, das Ziel sei "ein KI-Sicherheitsbewertungssystem, das globalen Standards entspricht". Europe Says, das dieselbe Mitteilung veröffentlichte, weist darauf hin, dass Kakao früher eine Absichtserklärung mit KT Cloud unterzeichnet hat und einen Beirat unter seinem Unterausschuss für KI- und Technologieethik betreibt.

Öffentliche Werkzeuge gehören zur selben Geschichte. Das UK AI Security Institute und Meridian Labs veröffentlichen Inspect, ein Open-Source-Rahmenwerk für Frontier-Bewertungen. Es kommt mit mehr als 200 vorgefertigten Bewertungen, Unterstützung für Agentenaufgaben und Sandboxing über Docker, Kubernetes und Modal. Auf GitHub verfolgt OpenResearch von alphaXiv einen lokal orientierten Ansatz: Es verwandelt Coding-Agenten wie Claude Code, Codex und Cursor in Forschungsagenten, die Literatur sichten, Experimente ausführen und jeden Lauf in einem git-nativen Experimentbaum archivieren können. Keines der beiden Projekte ersetzt staatliche Kapazität, aber beide senken die Kosten für Tests.

Geteilte Branche, unklare Regeln

Die Branche bleibt gespalten. Rest of World berichtet, OpenAI habe erklärt, mit Anthropic und Google an einem Normungsgremium zu arbeiten. Die Idee hatte zuerst Demis Hassabis von Google DeepMind vorgeschlagen, als selbstregulierende Agentur, die die stärksten Systeme vor der Veröffentlichung testen sollte. Präsident Trump sagte am Dienstag, führende KI-Manager hätten sich auf freiwillige Standards verständigt. Wafa Ben-Hassine vom Büro des UN-Hochkommissars für Menschenrechte sagte auf derselben Veranstaltung, Folgenabschätzungen für Menschenrechte seien "quantifizierbare und bewährte Wege", KI sicherer einzusetzen. Zugleich fehle es in fortgeschrittenen Volkswirtschaften und anderswo "eklatant an technischer Expertise".

Separat berichtete die BBC am 30. September, Mindgard habe festgestellt, dass sich Kimi K2.6 und K3 Swarm des chinesischen Entwicklers Moonshot so manipulieren ließen, dass sie über Biowaffen und Attentate sprachen. Moonshot erklärte, das Unternehmen begrüße Beiträge Dritter und stehe mit Mindgard in Gesprächen. Anthropic hat mitgeteilt, Versuche unterbunden zu haben, eines seiner Modelle für schädliche Aktivitäten zu nutzen, die die Entwicklung von Biowaffen unterstützen könnten. Unterschiedliche Fehlerarten, dieselbe Frage: Wer darf prüfen?

Altmans Aussagen zum Börsengang, die Klage von LASST und die australische Meldelücke weisen in dieselbe Richtung: Die Labors schreiben ihre Sicherheitsnachweise weiter selbst, und alle anderen warten noch auf die Belege.