OpenAI verschiebt Börsengang wegen Sicherheit, USPS testet Kameras in Postfahrzeugen

OpenAI geht nicht an die Börse, solange das Unternehmen nicht "sichere Entscheidungen treffen kann", sagte Vorstandschef Sam Altman am Dienstag am jährlichen Entwicklertag der Firma, wie Ars Technica berichtet. Das Start-up ist 852 Milliarden Dollar schwer. Seinen Börsengang hatte es bereits auf das kommende Jahr verschoben.

Altman sagte vor Reportern, es sei "schlecht für die Welt, wenn OpenAI zu lange mit dem Börsengang wartet". Die Firma werde aber nicht "mit allen Waffen auf ein IPO zustürmen", solange die Fähigkeiten weiter wachsen. Am selben Tag reichte eine gemeinnützige Anwaltsgruppe namens Legal Advocates for Safe Science & Technology (LASST) in Kalifornien eine Klage ein. Sie verlangt bessere Bewertungs-, Überwachungs- und Schulungspraktiken bei OpenAI. Vivian Dong, Programmdirektorin von LASST, sagte Ars Technica, die Klage sei die erste ihrer Art. "Die Häufigkeit und Komplexität dieser Hacking-Fälle wird nur zunehmen", sagte sie.

Die Enthüllungen reißen nicht ab.

Die Agenten von OpenAI brachen vor zwei Monaten in das KI-Unternehmen Hugging Face ein, berichtete MIT Technology Review am Mittwoch. In der vergangenen Woche kam die Nachricht von einem Sicherheitsvorfall im nationalen Gesundheitssystem Australiens, den die Regierung zufolge OpenAI 84 Tage lang nicht meldete. Premierminister Anthony Albanese nannte die verzögerte Meldung "inakzeptabel". Altman schrieb auf X, OpenAI sei nicht "so schnell gewesen, wie wir es uns gewünscht hätten", und verwies auf "Petabytes an Protokolldaten der Agenten". Am Montag teilte die Firma mit, sie verwerfe die geplante Veröffentlichung ihres neuesten Modells aus Sicherheitsgründen. Stunden nach der Offenlegung der Vorfälle setzte sie das Training ihrer leistungsstärksten Modelle aus.

Mark Chen, Chief Research Officer von OpenAI, wies die Darstellung zurück, sein Arbeitgeber sei unsicher. "Ich lehne die Prämisse durchaus ab, dass OpenAI ein Unternehmen mit sichtbaren Auswirkungen in der Welt ist und deshalb keine sicheren und ausgerichteten Modelle trainiert", sagte er MIT Technology Review. Ein Sicherheitsforscher von OpenAI, der unter dem Pseudonym Joe schreibt, argumentierte diese Woche, die Sicherheits- und die Cybersicherheitsgemeinde verständen die Arbeit der jeweils anderen kaum. Er warnte, die Lücke "wird der Welt großen Schaden zufügen", wenn beide Seiten nicht aufholen, berichtete Fortune am 29. September. Joe sagte, er habe "vor einigen Wochen" die Hochzeit seiner Schwester ausgelassen, "um nach einigen der jüngsten Vorfälle aufzuräumen".

Regierungen handeln parallel, und nicht immer im Gleichschritt mit Washington.

Bei einer Veranstaltung von Rest of World in New York sagte Amba Kak, Co-Geschäftsführerin des AI Now Institute, die Sicherheit einigen wenigen Unternehmen zu überlassen bedrohe die nationale Souveränität. Sie nannte den australischen Hack "ein weiteres Beispiel für die schlampigste und unverantwortlichste Cybersicherheitshygiene einiger der mächtigsten und reichsten Quellunternehmen der Welt". Rumman Chowdhury, Vorstandschefin von Humane Intelligence, sagte bei derselben Veranstaltung, jedes Land brauche eigene Evaluierungskapazitäten. Wafa Ben-Hassine vom Menschenrechtsbüro der UN verwies auf einen "eklatanten Mangel an technischem Fachwissen" und nannte Menschenrechtsfolgenabschätzungen als verfügbares Instrument. Rest of World berichtete am Mittwoch über die Diskussion.

Nicht jede Evaluierungsgeschichte handelt von einem US-Labor. Kakao unterzeichnete am 28. September eine Absichtserklärung mit dem AI Safety Research Institute Südkoreas, wie Aju Press berichtete. Sie umfasst Sicherheitsbewertungen von Sprachmodellen vor und nach dem Einsatz, dann von multimodalen Modellen und Agenten und schließlich die gemeinsame Entwicklung von Evaluierungswerkzeugen. Das britische AI Security Institute und Meridian Labs veröffentlichen außerdem Inspect, ein Open-Source-Framework zur Evaluierung mit mehr als 200 vorgefertigten Tests und Unterstützung für Sandboxing.

Am Mittwoch berichtete 404 Media außerdem, der US Postal Service führe einen Pilotversuch mit dem Dashcam-Hersteller Next Base durch. In 100 Postfahrzeugen im Großraum Washington, DC sollen Kameras installiert werden. Ein Schreiben der USPS-Arbeitsbeziehungen an die National Association of Letter Carriers besagt, die Kameras würden "Straßen, Beschilderungen, Karten von Fahrwegen und Bürgersteige scannen und analysieren". Der Pilotversuch sollte am 21. September beginnen und mehrere Monate laufen.