AI Act: Europa wendet die Regeln an, bei der UNO wird ein globaler Standard gesucht

Die europäische Verordnung über künstliche Intelligenz, die Verordnung (EU) 2024/1689, ist das erste zusammenhängende Regelwerk der Welt, das sich ausschließlich der KI widmet. Die Kommission stellt sie als Instrument vor, mit dem sich Systeme verlässlich machen lassen, die ohne Regeln schwer zu bewerten wären. Lässt sich nicht erklären, warum ein System eine Entscheidung getroffen hat, wird auch schwer feststellbar, ob jemand zu Unrecht benachteiligt wurde, etwa bei einer Personalauswahl oder beim Zugang zu einer öffentlichen Leistung.

Vier Stufen, neun Verbote

Das System beruht auf dem Risiko und unterscheidet vier Stufen. Auf der höchsten Stufe, der inakzeptablen, verbietet die Verordnung neun Praktiken: darunter manipulative und täuschende Verfahren mit KI, die schädliche Ausnutzung von Verletzlichkeiten, Social Scoring und die individuelle Bewertung des Risikos, eine Straftat zu begehen. Zur Verordnung gehört ein Paket begleitender Maßnahmen: der AI Continent Action Plan, das AI Innovation Package und die AI Factories, dazu freiwillige Instrumente wie der AI Pact und der Hilfsdienst AI Act Service Desk. Sie sollen den Übergang für Unternehmen und Entwickler weniger abrupt machen.

Die Rolle des AI Office

Die Durchsetzung liegt beim European AI Office. Es wurde innerhalb der Kommission eingerichtet und bildet den Kern eines einheitlichen Governance-Systems auf europäischer Ebene. Bei der Umsetzung der Verordnung kommt ihm eine zentrale Rolle zu, mit einer besonderen Zuständigkeit für Modelle der KI für allgemeine Zwecke, auf denen die meisten Anwendungen aufbauen. Hier trifft die Regulierung auf die Technik: Pflichten für generalistische Modelle zu definieren heißt, sich mit Dokumentation, Bewertungen und Transparenzpflichten für Systeme auseinanderzusetzen, die sich schnell ändern.

Die internationale Front

Auf globaler Ebene ist der Weg noch steinig. Am 23. September wurde im Palais des Nations in New York über die Risiken der Technologie diskutiert: OpenAI hat vorgeschlagen, eine globale Koalition für die Standards der künstlichen Intelligenz anzuführen, und an der Diskussion sollen auch chinesische Akteure wie DeepSeek teilgenommen haben. Dass konkurrierende Akteure am selben Tisch sitzen, zeigt, wohin sich das Spiel verschiebt: nicht mehr um die Notwendigkeit von Regeln, die inzwischen anerkannt ist, sondern darum, wer sie schreibt und mit welcher Prüfkapazität.

«Ein Regelwerk ohne Kontrollmöglichkeit bleibt eine Absichtserklärung» — das ist das Risiko, auf das von mehreren Seiten hingewiesen wurde.