KI-Kontrolle: Über zwanzig Länder unterzeichnen UN-Appell, Frankreich fehlt

Die Steuerung von KI-Modellen ist auf höchster diplomatischer Ebene angekommen. Am Montag, dem 21. September, riefen die Staats- und Regierungschefs von mehr als zwanzig Ländern dazu auf, die menschliche Aufsicht über die fortgeschrittensten KI-Systeme zu stärken, wie Le Monde Informatique berichtet. Verbreitet wurde die Erklärung vom Büro des finnischen Präsidenten Alexander Stubb.

„Unter menschlicher Kontrolle“

Der Text nennt ein zentrales Prinzip: Die fortgeschrittensten KI-Modelle müssen „unter der Leitung, der Aufsicht und der Kontrolle des Menschen“ bleiben. Die Unterzeichner verlangen mehr Transparenz von den Unternehmen, Sicherheitstests vor dem Einsatz der Modelle, unabhängige Bewertungen und eine bessere internationale Zusammenarbeit. Geprüft werden soll außerdem, ob ein internationaler Aufsichtsmechanismus eingerichtet wird.

Unterzeichnet haben Deutschland, Spanien, die Niederlande, Irland, Dänemark, Kanada, Australien und Südafrika sowie die Präsidentin der Europäischen Kommission, Ursula von der Leyen. Frankreich hat sich der Initiative bislang nicht angeschlossen.

Der europäische Rahmen als Referenz

Diese Erklärung kommt zum europäischen Regelwerk hinzu, dessen Zeitplan weiter abgearbeitet wird. Die europäische Verordnung über künstliche Intelligenz wurde am 12. Juli 2024 im Amtsblatt veröffentlicht und trat am 1. August 2024 in Kraft. Sie gilt in Stufen. Die Verbote bestimmter Praktiken und die Pflichten zur KI-Kompetenz gelten seit dem 2. Februar 2025. Seit dem 2. August 2025 gelten die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck, die Governance und bestimmte Sanktionsvorschriften. Seit dem 2. August 2026 gilt der restliche Teil der Verordnung, von besonderen Bestimmungen abgesehen. Anbieter von Systemen, die synthetische Inhalte erzeugen und vor diesem Datum auf den Markt gebracht wurden, müssen die Transparenzpflichten des Artikels 50 bis zum 2. Dezember 2026 erfüllen.

Die nächste Phase ist auf den 2. Dezember 2026 festgelegt. Dann greifen die Verbote für Systeme, die nicht einvernehmlich erstellte intime Bilder und Inhalte sexuellen Missbrauchs von Minderjährigen erzeugen. Bis zum 2. August 2027 müssen Anbieter von Modellen mit allgemeinem Verwendungszweck, die vor August 2025 auf den Markt gebracht wurden, die notwendigen Maßnahmen ergriffen haben, um die Verordnung einzuhalten.

Schutzmaßnahmen werden von allen Seiten gefordert

Die Debatte beschränkt sich nicht auf die Staaten. In Italien haben mehr als hundert Expertinnen und Experten für künstliche Intelligenz einen Appell unterzeichnet. Darin fordern sie, dass Unternehmen wie Anthropic und OpenAI auf unabhängige Prüfer setzen. Diese Forderung deckt sich direkt mit den Anliegen der internationalen Erklärung.

Die fortgeschrittensten Modelle müssen unter der Leitung, der Aufsicht und der Kontrolle des Menschen bleiben.