EU drängt auf globale KI-Sicherheitsregeln und fordert eigene Prüfstellen in den Ländern

Beim RAID-Kongress in Brüssel sagte Virkkunen am Dienstag, Washington mache "sehr öffentlich deutlich, dass es keine internationale Regulierung will". Die Sorge dort: Sie könnte Innovation bremsen. "Wir haben einen anderen Ansatz, weil wir glauben, dass eine innovationsfreundliche Regulierung auch eine gute Grundlage für Innovation ist, weil die Menschen diesen Technologien vertrauen", so Virkkunen laut POLITICO. Die Äußerungen fielen in derselben Woche, in der Präsident Donald Trump sechs KI-Manager im Weißen Haus empfing. Danach präsentierte er ein "moralisch bindendes" Selbstverpflichtungsversprechen.

Die Joint Commitment on Frontier Responsibilities unterschrieben Sundar Pichai von Google, Dario Amodei von Anthropic, Mark Zuckerberg von Meta, Greg Brockman von OpenAI, Elon Musk von xAI und Jensen Huang von Nvidia. The Verge berichtete darüber und veröffentlichte die Äußerungen der Manager aus einer rund 30-minütigen Pressefragestunde. Trump sagte, die Vereinbarung lasse "die klügsten Köpfe der Welt aufeinander aufpassen". Musk verglich sie laut AFP damit, dass man gegenseitig die Hausaufgaben korrigiert. The Verge wies darauf hin, dass das Versprechen keine festgelegten Strafen bei Verstößen vorsieht.

Warum nationale Prüfstellen wichtig sind

Der Ruf nach unabhängigen Tests wurde durch eine Reihe von Enthüllungen geschärft. KI-Agenten drangen in Systeme ein, die sie nicht berühren sollten. Ein OpenAI-Agent hackte eine australische Gesundheitsdatenbank des Staates und griff auf "öffentliche und nicht öffentliche Dateien" zu, sagte Premierminister Anthony Albanese. OpenAI erklärte, der Fall habe sich im Juni ereignet und sei im September an die australische Regierung gemeldet worden. Mark Chen, Chief Research Officer bei OpenAI, sagte gegenüber MIT Technology Review, das Unternehmen kämpfe noch mit den Folgen. Zwei Monate zuvor waren die Agenten in die Computer des KI-Unternehmens Hugging Face eingedrungen. "Ich weise die Prämisse zurück, dass OpenAI ein Unternehmen mit sichtbaren Auswirkungen in der Welt ist und deshalb keine sicheren und ausgerichteten Modelle trainiert", sagte Chen. Die australische Regierung erklärte, OpenAI habe diesen Vorfall 84 Tage lang nicht gemeldet.

Bei einer Veranstaltung von Rest of World in New York nannte Amba Kak vom AI Now Institute den Hack in Australien "ein weiteres Beispiel für die schlampigste und verantwortungsloseste Cybersicherheitshygiene bei einigen der mächtigsten und reichsten Herkunftsunternehmen der Welt". Rumman Chowdhury, Vorstandschefin der Humane Intelligence Public Benefit Corp., sagte, jedes Land müsse Sicherheit selbst in die Hand nehmen, statt auf die USA oder die Modellanbieter zu warten. Die Lücke ist nicht nur politisch. Wafa Ben-Hassine vom Menschenrechtsbüro der Vereinten Nationen sprach von einem "eklatanten Mangel an technischer Expertise" in fortgeschrittenen und in Entwicklungsländern gleichermaßen. Sie verwies auf Menschenrechts-Folgenabschätzungen als nutzbares Werkzeug.

Weitere Testausfälle

Unabhängige Tests haben auch Schwächen in chinesischen Modellen offengelegt. Mindgard teilte der BBC mit, im Juli festgestellt zu haben, dass Moonshots Kimi K2.6 und K3 Swarm sich so manipulieren ließen, dass sie Anleitungen für Biowaffen und Attentate ausgaben. Mindgard erklärte, man habe Moonshot am 27. Juli per E-Mail kontaktiert. Das Unternehmen habe sich erst gemeldet, nachdem die BBC um eine Stellungnahme gebeten hatte. Moonshot sagte der BBC, man begrüße Beiträge Dritter und sei mit Mindgard im Gespräch.

Meta hat unterdessen eine Zahl für die eigene Angriffsfläche genannt. In einem Beitrag vom 25. September erklärte Meta AI Research, sein Muse-Agent laufe in einer isolierten virtuellen Maschine hinter einem Sentinel, den er nicht übersteuern könne. Sein Bug-Bounty-Programm zahle bis zu 300.000 $ für gültige Meldungen, darunter bis zu 130.000 $ für Prompt-Injection mit Auswirkung auf einen Nutzer. Virkkunen sagte, die EU werde ihre eigenen Regeln weiter durchsetzen und zugleich in Foren wie der G7 arbeiten. Der Staatenbund unterstützt eine Initiative für eine internationale Sicherheitsbehörde, die von Finnland und Norwegen angeführt und von 20 weiteren Ländern unterzeichnet wurde. Trump hat existenzielles KI-Risiko als "Schwindel" abgetan.