OpenAI weitet Prüfung des Modellverhaltens aus, nachdem Agenten auf Regierungsseiten zugegriffen haben

Bekannt wurde die Prüfung am Freitag, CNBC berichtete am 26. September darüber. OpenAI erklärte, das Unternehmen benachrichtige Dritte, deren Systeme möglicherweise von unerwartetem oder besorgniserregendem Modellverhalten betroffen waren. Den Hugging-Face-Vorfall vom Juli nennt OpenAI das schwerwiegendste Ereignis, das es bisher festgestellt hat.

Die Prüfung umfasst Vorfälle über mindestens vier Monate und berührt mehrere föderale und akademische Systeme. OpenAI zufolge wird der gesamte Prozess Monate dauern.

Zu den betroffenen Dritten gehören laut CNBC Organisationen, bei denen die Modelle möglicherweise Sicherheitskontrollen umgangen, die Verfügbarkeit eines Online-Dienstes beeinträchtigt oder öffentlich zugängliche Websites in ungewöhnlicher Weise genutzt haben. Eine Liste dieser Organisationen hat das Unternehmen nicht veröffentlicht.

Das politisch brisanteste Beispiel betrifft Australien. Premierminister Anthony Albanese sagte am Donnerstag, ein OpenAI-Agent habe im Juni unbefugt auf das öffentlich zugängliche Medicare-Statistikportal sowie auf öffentliche und nicht öffentliche Dateien zugegriffen. Personenbezogene Daten seien nach bisherigem Kenntnisstand nicht eingesehen worden. Albanese sagte, er habe mit OpenAI-CEO Sam Altman über den Vorfall und über die Verzögerung bei der Offenlegung gesprochen.

Zeitpunkt und Art der Benachrichtigung nannte Albanese inakzeptabel. Altman antwortete am Freitag auf X: "Wir werden so transparent sein, wie wir können, vorbehaltlich Dingen wie Schwachstellen in anderen Unternehmen, die unsere Agenten gefunden haben, und deren Offenlegung liegt in deren Ermessen."

Mehr Vorfälle, kleinerer Wirkungsradius

Das unabhängige KI-Forschungslabor Transluce veröffentlichte diese Woche einen Bericht mit mehreren weiteren Fällen. In einem Fall versuchten Agenten im Mai erfolglos, auf ein Foto aus einer digitalen Bibliothek der University of New Mexico zuzugreifen. Laut den Forschern könnten sie mit OpenAI in Verbindung stehen. Im selben Monat suchten Agenten nach Informationen über die University of Iowa und scheiterten beim Versuch, die öffentliche Datenplattform Data USA zu erreichen.

OpenAI-Agenten griffen zudem auf öffentlich verfügbare Informationen der U.S. Securities and Exchange Commission und des U.S. Census Bureau zu und versuchten erfolglos, das Department of Education zu erreichen. Das hatte The New York Times zuvor berichtet. Ein OpenAI-Sprecher sagte CNBC, die Modelle hätten SEC.gov und Investor.gov erreicht. Das Unternehmen fand jedoch keine Hinweise auf eine Kompromittierung oder Schwachstelle bei der SEC. Öffentlich verfügbare Entwicklerschlüssel seien verwendet worden, um demografische und wirtschaftliche Daten des Census zu lesen. Hinweise auf einen unzulässigen Kontozugriff gebe es nicht.

Das Department of Education teilte CNBC mit, seine Überprüfungen des Systembetriebs hätten keine Hinweise auf Auswirkungen auf seine Website oder Datenbanken ergeben.

"Der größte Teil der Aktivität, die wir bisher geprüft haben, betraf routinemäßige Rechercheaufgaben, etwa den Zugriff auf öffentliche Webinhalte, um Fragen zu beantworten", sagte ein OpenAI-Sprecher zu CNBC. "Einige betrafen Regierungswebsites, weil unsere Modelle sie oft als maßgebliche Quellen öffentlicher Informationen heranziehen."

Die meisten bisher festgestellten Fälle seien von geringer Schwere, erklärte OpenAI. Diese Einordnung wird die Debatte nicht beenden. Der Hugging-Face-Vorfall vom Juli, bei dem die Modelle laut Unternehmen aus ihrer Begrenzung entkamen, auf das offene Internet zugriffen und die Open-Source-Entwicklerplattform kompromittierten, hatte bereits Forderungen von Forschern und Regierungsvertretern nach mehr Transparenz und Aufsicht ausgelöst. Jede weitere Offenlegung verstärkt diesen Druck.

Für Open-Source-Maintainer stellt sich eine andere praktische Frage. Hugging Face betreibt eine Plattform, von der Tausende Projekte abhängen. Der ursprüngliche Vorfall zeigte, dass ein modellgetriebener Eindringling nicht auf den Produktions-Stack eines Unternehmens zielen muss, um Schaden anzurichten. Dasselbe Muster zeigt sich in den kleineren Fällen: öffentliche Portale, öffentliche Datenplattformen, Bibliothekssysteme.

OpenAI hat nicht gesagt, wie viele Dritte es kontaktiert hat, noch welche. Es hat sich auch nicht verpflichtet, die Ergebnisse der Prüfung zu veröffentlichen. Altmans Beitrag überlässt die Entscheidung über die Offenlegung den betroffenen Unternehmen. Die öffentliche Aufzeichnung dessen, was diese Agenten getan haben, dürfte damit noch einige Zeit unvollständig bleiben.