EU AI Act in der Praxis: Deepfake-Verbot trifft Abgeordnete

Am 5. Oktober veröffentlichte Agora Digitale Transformation eine Untersuchung zu nicht einvernehmlicher Deepfake-Pornografie gegen europäische Abgeordnete. Der Bericht nennt 50 Mitglieder des Europäischen Parlaments als Betroffene, darunter 46 Frauen. Das ist etwa jede sechste Abgeordnete.

Politico meldete am 5. Oktober, die EU untersuche den Einsatz von Grok auf der Plattform X. Die Untersuchung läuft parallel zu einem Verbot KI-gestützter Nudifier-Apps, das für den 2. Dezember vorgesehen ist. Die Durchsetzung ist von einer rechtlichen zu einer politischen Priorität geworden. Prominente Betroffene treiben diesen Wandel voran.

Am 30. September schickten 119 Abgeordnete aus mehreren Fraktionen einen Brief an Kommissionspräsidentin Ursula von der Leyen und weitere EU-Spitzen. Sie verlangten eine wirksame Durchsetzung des Verbots und eine zügige Klärung der Grok-Untersuchung. „Es darf keine Schlupflöcher und keine Verzögerungen geben“, sagte Lena Schilling, Abgeordnete der österreichischen Grünen und Unterzeichnerin, laut Politico.

Die Herausforderung bei der Durchsetzung

Benjamin Shultz, Mitautor des Berichts, wies darauf hin, dass Politiker sich dem Netz nicht entziehen können. Damit sind sie leichte Ziele für KI-Nudifier. Er forderte, die Kommission müsse alle Beteiligten zur Verantwortung ziehen, auch Zahlungsdienstleister und Domain-Registrare, die das Geschäft unbeabsichtigt ermöglichen. Shultz regte zudem an, die Kommission solle prüfen, KI-Nudifier-Websites aus Suchmaschinen zu entfernen, um ihre Sichtbarkeit zu senken. In der Praxis ist die Durchsetzung schwierig. Die Infrastruktur hinter diesen Apps ist dezentral und liegt oft bei Akteuren außerhalb der direkten EU-Zuständigkeit.

Die EU-Aufsicht geht von der Ausarbeitung von Regelwerken zur aktiven Kontrolle über. Kritiker nennen den AI Act oft langsam und bürokratisch, doch der Deepfake-Skandal hat eine schnellere Reaktion erzwungen. Die EU nutzt ihre bestehenden Befugnisse, um Plattformen schon vor dem offiziellen Verbotsdatum zum Handeln zu drängen. Das ist ein Testfall dafür, wie Brüssel mit anderen KI-Verstößen umgehen wird, besonders bei generativen Modellen, die sich schwer prüfen lassen. Das Ergebnis wird die künftigen Compliance-Mechanismen in den Mitgliedstaaten prägen.

Am 7. Oktober berichtete Tech.eu, Cecilia Bonefeld-Dahl, Generaldirektorin von DIGITALEUROPE, habe argumentiert, Europa könne sich nicht in eine Tech-Führungsrolle regulieren. Sie forderte schnelleren Zugang zu Finanzmitteln und weniger regulatorische Komplexität. Das derzeitige Tempo der Durchsetzung könnte aus ihrer Sicht Innovationen über den Bereich der KI-Sicherheit hinaus bremsen. Daraus entsteht Spannung zwischen strenger KI-Governance und einem wettbewerbsfähigen Tech-Ökosystem. Branchenvertreter argumentieren oft, hohe Compliance-Kosten trieben Innovation in andere Jurisdiktionen. Die Aufsichtsbehörden widersprechen und verweisen auf den Verbraucherschutz durch strenge Regeln.

Der weitere Rahmen der KI-Governance

Europas Fokus auf die KI-Regulierung beschränkt sich nicht auf Deepfakes. Am 8. Oktober berichtete ZDNET über Kaliforniens „No Robo Bosses Act“, ein Gesetz, das Beschäftigte vor vollautomatischen Personalentscheidungen schützt. Es ist ein Gesetz eines US-Bundesstaats, doch es zeigt einen globalen Trend: Aufsichtsbehörden greifen zunehmend in die Rolle der KI am Arbeitsplatz ein. Die EU beobachtet diese Entwicklungen genau. Der AI Act erfasst auch Hochrisiko-KI-Systeme, etwa in Beschäftigung und Bildung. Diese Bemühungen deuten auf eine weltweite Verschiebung zu strengerer Aufsicht über automatisierte Entscheidungen in sensiblen Bereichen hin.

In den USA haben Peter Thiels jüngste Vorträge in Nashville die Politik der KI-Regulierung in den Blick gerückt. Am 9. Oktober berichtete Gizmodo, Thiel stelle die KI-Regulierung als existenzielle Bedrohung dar. Er hält erhebliche finanzielle Anteile an KI-Unternehmen und verknüpfte das Thema mit theologischen Vorstellungen. Seine Rhetorik spiegelt den breiteren Widerstand gegen KI-Governance in Teilen der US-Tech-Branche. Der Ansatz der EU ist regulatorischer. Ihr Vorgehen gegen Deepfakes könnte als Gegenerzählung dienen und zeigen, dass der Block seine Regeln durchsetzt, auch wenn Akteure, die von lockerer Aufsicht profitieren, sich dagegenstellen.

Mit Blick auf das Verbot am 2. Dezember steht die Kommission vor einer entscheidenden Prüfung. Ihre Glaubwürdigkeit hängt davon ab, ob sie den AI Act gegen mächtige Plattformen durchsetzen kann. Die Kampagne gegen 50 Abgeordnete hat die Einsätze erhöht. Aus einer technischen Durchsetzungsfrage ist eine Frage der politischen Sicherheit geworden. Die Grok-Untersuchung und das Nudifier-Verbot werden den Ton der KI-Governance in Europa für Jahre bestimmen. Die Aufsichtsbehörden schreiben nicht mehr nur Regeln. Sie versuchen, Bürger vor unkontrollierten KI-Systemen zu schützen, die mit minimaler menschlicher Aufsicht laufen.