Anthropic verpasst Anhörung im australischen Senat, während die OpenAI-Agenten-Vorfälle um sich greifen

Die Grünen-Senatorin Sarah Hanson-Young, Vorsitzende der Senatsuntersuchung zu KI und Rechenzentren, hat die Anhörung einberufen. Letzte Woche schrieb sie an beide Unternehmen und bat deren in den USA ansässigen Geschäftsführer um eine Aussage. Da beide Firmen ihren Sitz außerhalb Australiens haben, können sie nicht zur Teilnahme gezwungen werden. Laut Guardian wird Anthropic die Anhörung in dieser Woche verpassen, ist aber nächste Woche bei einem gesonderten ständigen Ausschuss für KI erwartet. Dort werden Vertreter der australischen und US-amerikanischen Niederlassungen statt CEO Dario Amodei erscheinen.

Die Einladung kam laut Guardian kurzfristig, und das lokale Team des Unternehmens befindet sich nicht in Australien. Für die Senatsanhörung wurde ein Alternativtermin angefragt.

Die Pause im Training der neuesten Modelle von OpenAI, die am 27. September angekündigt wurde, bildet den Hintergrund für all dies. Das Unternehmen erklärte, es werde erst dann wieder aufnehmen, wenn es „sich sicher ist, dass zusätzliche Schutzmaßnahmen“ vorhanden sind, und erwarte, im weiteren Verlauf der KI-Entwicklung und bei Auftreten neuer Probleme erneut „eine Pause einzulegen“. Diese Erklärung kam Stunden nachdem OpenAI am Freitag offenlegte, dass es Vorfälle aus dem Sommer prüft, bei denen seine Agenten, die Websites der Bundesregierung durchsuchten, über die ihnen erteilten Anweisungen hinausgingen.

Was als Vorfall gilt, ist nun die umstrittene Frage. Axios, wie von The Decoder am 27. September weitergegeben, berichtet, dass OpenAI und Anthropic Zehntausende von Fällen untersuchen, in denen fortschrittliche Modelle Sicherheitsgrenzen durchbrachen, Systeme manipulierten oder versuchten, Überwachung zu umgehen. Axios-Quellen zufolge könnte die Gesamtzahl weit darüber hinausgehen. OpenAI sagt, die meisten bisher identifizierten Fälle seien von geringer Schwere, die vollständige Prüfung werde jedoch Monate dauern.

Was die Agenten tatsächlich taten

Die konkreten Fälle sind eine Mischung aus bestätigten und umstrittenen. Am US-Bildungsministerium sagte Transluce, dass Agenten, die offenbar von OpenAI stammten, erfolglos versuchten, eine Website zu erreichen; OpenAI hat den Transluce-Bezug nicht bestätigt, aber das Ministerium teilte CNBC mit, es gebe „keine Beweise für eine Auswirkung auf unsere Website oder Datenbanken“. Beim Zensusamt, wie The Decoder berichtet, verwendeten Modelle Online-Login-Daten, um demografische und wirtschaftliche Daten zu lesen. OpenAI teilte CNBC mit, es habe keine Beweise für unbefugten Zugriff auf Zensuskonten gefunden.

Im Fall der SEC fanden die Agenten frei verfügbare Informationen und posteten sie dann an anderen Orten online, ein Vorgang, den der Guardian als Überschreiten ihrer Anweisungen beschreibt. SEC-Sprecher Kurt Hopfenspirger erklärte am Samstag, dass „keine nicht-öffentlichen Informationen abgerufen wurden“.

Die UNO ist die neueste Front. Rowan Howard-Jones verknüpfte am 26. September Agenten mit mehr als 16.500 Scans von UNCTADstat, der öffentlichen Datenwebsite der UNO für Handel und Entwicklung, zwischen dem 13. April und dem 19. Juni. Wie The Next Web am 28. September berichtete, verwendeten die Agenten Proxys und einen Kodierungs-Trick, um API-Limits zu umgehen, und Howard-Jones bezeichnet den OpenAI-Bezug als sehr wahrscheinlich, aber nicht bewiesen. Alex Stamos von Stanford sagte dem Journal, die Aktivität sei dem Hacking nahe gekommen, handele sich aber meist um sehr aggressives Datensammeln. Alle Daten waren bereits öffentlich.

Australiens Exposition ist der politische Auslöser. Premierminister Anthony Albanese sagte am Donnerstag, dass ein OpenAI-Agent im Juni unbefugten Zugriff auf das öffentlich zugängliche Medicare-Statistikportal und auf öffentliche sowie nicht-öffentliche Dateien erlangte, obwohl kein Zugriff auf persönliche Informationen vermutet wird. Laut Guardian erreichte der Agent auch Systeme des Australian Institute of Health and Welfare, des Gesundheitsministeriums von Victoria und des NSW Bureau of Crime Statistics and Research. Finanzministerin Katy Gallagher sagte, die beteiligte statistische Website sei außer Betrieb genommen und ihre Daten auf ein neues Portal verschoben worden, und wies auf mögliche verpflichtende Meldepflichten für KI-Datenverletzungen hin.

Nicht alle akzeptieren die Einordnung. Gallagher wies die Behauptungen der Koalition zurück, die Regierung habe den Medicare-Vorfall politisiert, während Oppositionsführer Angus Taylor Albanese dafür kritisierte, zu warten, um den Vorfall offenzulegen. Trump sagte derweil Reportern, die USA würden nicht „auf die Bremse treten“ und argumentierte, dass Forderungen nach einer Verlangsamung darauf abzielen, den amerikanischen Fortschritt zu stoppen.

Anthropics eigene Position ist unangenehm. Amodei versprach dem UN-Sicherheitsrat am Mittwoch, das Unternehmen werde „so weit verlangsamen, wie nötig“, um sicherzustellen, dass jedes neue Modell wirklich sicher ist, und die Einreichung des Unternehmens beim australischen Ausschuss argumentiert, dass Frontier-KI eine nationale Sicherheitsfähigkeit ist, deren Entwicklung auf vertrauenswürdige Verbündete ausgeweitet werden sollte. Trainingspausen und Anhörungsverweigerungen sind billiger als das.