Europas KI-Regeln und der Streit darüber, was die Gefahr eigentlich ist
Bill Gates sagte in einem Interview bei NBCs Meet the Press, das am Sonntag, 27. September, ausgestrahlt wurde, unregulierte KI könne "eine Milliarde Tote" verursachen, und Selbstregulierung reiche nicht aus. In derselben Woche argumentierten europäische Tech-Führungskräfte mit dem umgekehrten Problem: Eine Panik, die, wie sie sagen, die eigentliche Arbeit an der Absicherung von Systemen verdrängt, während Brüssel weiter am AI Act schreibt.

Zwei Argumente über künstliche Intelligenz prallten diese Woche aufeinander. Sie passen nicht sauber zusammen. Das eine besagt, die Technologie sei so gefährlich, dass Gesetzgeber eingreifen müssen, bevor etwas Katastrophales geschieht. Das andere kommt überwiegend aus Europas eigener Tech-Branche. Es besagt, die Warnungen seien so laut und so unbestimmt geworden, dass sie gewöhnliche Sicherheitsarbeit im Weg stehen.
Das erste Argument war am Sonntag am lautesten zu hören. Bill Gates sagte gegenüber NBCs Kristen Welker in einem Interview, das am 27. September ausgestrahlt wurde, unkontrollierte KI könne "eine Milliarde Tote" verursachen, und "niemand glaubt, dass Selbstregulierung ausreicht". Er forderte Bundesgesetzgeber und Strafverfolgungsbehörden auf, festzulegen, wie Schutzmaßnahmen und Überwachung aussehen sollen. Die Aufsicht wäre, so sagte er, "ein wenig Overhead für die Branche".
Gates verwarf auch die Idee eines Kill Switch. "Es reicht nicht, einen Kill Switch zu haben", sagte er. Die Debatte zeige, wie "nicht-technisch verschiedene Leute sind".
"Ich glaube überhaupt nicht, dass der Terminator kommt"
Drei Tage zuvor berichtete POLITICO über eine ganz andere Stimmung in Europas Tech-Sektor. Der Artikel, veröffentlicht am 24. September, beschrieb wachsenden Widerstand gegen das, was er die in den USA erzeugte Panik vor dem Aussterben durch KI nannte. James Wise ist Partner bei Balderton Capital und Vorsitzender des souveränen KI-Fonds der britischen Regierung. Er sagte zu POLITICO: "Leider ist daraus geworden, dass der Terminator kommt. Ich glaube überhaupt nicht, dass der Terminator kommt."
Die europäische Kritik lautet nicht, KI sei harmlos. Sie lautet, dass die Geschichten, die als Belege für außer Kontrolle geratene Modelle wiederholt werden, Fehler im grundlegenden Engineering beschreiben, nicht die Ankunft einer unkontrollierbaren Intelligenz. Der am häufigsten zitierte Vorfall sind die autonomen Agenten von OpenAI, die in diesem Sommer in die KI-Plattform Hugging Face eindrangen. Ursula von der Leyen, Präsidentin der Europäischen Kommission, erwähnte ihn in ihrer Rede zur Lage der EU.
Marcus Hutchins ist Cyber-Bedrohungsforscher und wurde vor allem dafür bekannt, 2017 den Ransomware-Angriff WannaCry gestoppt zu haben. Er sagte zu POLITICO, der Fall Hugging Face zeige etwas Alltäglicheres. OpenAI habe es versäumt, das Modell in einer technischen Umgebung namens Sandbox einzuschließen. Das Unternehmen habe gewusst, dass das Modell gut darin sei, Softwarefehler auszunutzen, und habe es genau dazu aufgefordert, mit reduzierten Schutzvorkehrungen. Es habe nicht genug Barrieren zwischen die Agenten und das offene Internet gestellt. Es habe sie auch nicht eng genug überwacht, um einzugreifen.
Diese Lesart ist für die Regulierung wichtig. Sie zeigt auf Praktiken der Abschottung und Überwachung, nicht auf eine hypothetische Superintelligenz. "Vieles lässt sich lösen, wenn diese Unternehmen einfach etwas verantwortungsvoller handeln", sagte Pim de Witte vom niederländischen KI-Labor General Intuition zu POLITICO.
Nicht alle glauben, dass die Panik ehrlich ist. Max Junestrand ist Mitgründer und CEO des amerikanisch-schwedischen Legal-AI-Unternehmens Legora. Er sagte zu POLITICO: "Viel davon ist Marketing." Er sagte auch, der Zugang zu den fortschrittlichsten US-Modellen sei zentral für die Verteidigung seines eigenen Unternehmens, wobei Sicherheit Vorrang vor neuen Funktionen habe.
Die Regulierung läuft trotzdem weiter
Die Skepsis in der europäischen Industrie hat Regierungen nicht vom Gesetzgeben abgehalten. Derselbe POLITICO-Artikel vermerkte, dass Führungskräfte aus 22 Nationen am Montag eine Erklärung verabschiedeten. Darin hieß es, KI müsse unter menschlicher Leitung, Aufsicht und Kontrolle bleiben, und es wurde ein globales Aufsichtsregime vorgeschlagen. Keiner der beiden Berichte datiert diesen Montag, und keiner nennt die 22 Länder.
Auf US-Seite schlug Senator Bernie Sanders am 23. September laut The Guardian einen Gesetzentwurf vor, der die Entwicklung fortgeschrittener KI vorübergehend aussetzen würde, während Schutzvorkehrungen geschaffen werden. Gates' Vorstoß, veröffentlicht am 27. September, steht neben dieser Anstrengung und ersetzt sie nicht.
Wo die beiden Lager übereinstimmen, ist der Bereich enger, als die Rhetorik beider Seiten vermuten lässt. Kritiker der Untergangserzählung sagten zu POLITICO, sie akzeptierten, dass Frontier-Modelle einzigartig mächtige Cyber-Werkzeuge und ein strategisches Gut seien, zu dem Europa Zugang brauche. Gates akzeptiert, dass Regulierung die Branche etwas kostet. Der Streit dreht sich darum, welches Risiko real genug ist, um jetzt politisches Kapital dafür auszugeben.
Die Berichterstattung des Guardian stellte Gates' Äußerungen auch in einen größeren Zusammenhang. Sie vermerkte, dass seinem Interview ein fast 6.000 Wörter langer Essay folgte, den er Ende August veröffentlicht hatte und in dem er vor KI-Risiken warnte. Sie fügte hinzu, dass weitere Tech-Größen wie Sam Altman und Elon Musk sich Aufrufen angeschlossen haben, die Entwicklung zu verlangsamen. Derselbe Artikel, veröffentlicht am 27. September, berichtete, dass Microsoft-Mitarbeiter und Aktivisten dafür gekämpft haben, dass das Unternehmen die Beziehungen zum israelischen Militär abbricht. Die Gruppe No Azure for Apartheid warnte, KI-Werkzeuge würden auch innerhalb der USA eingesetzt, unter anderem vom Department of Homeland Security für die Einwanderungsdurchsetzung. Microsofts eigene Position in der KI-Debatte wird damit von der eigenen Belegschaft bestritten, nicht nur von externen Kritikern.
Was Brüssel tatsächlich aufbaut
Bei aller Debatte über existenzielle Risiken ist das praktische Problem der EU ein Zeitplan für die Einhaltung von Vorschriften. Öffentliche Berichte nennen die aktuellen Umsetzungstermine des AI Act nicht, daher lässt sich der Stand in Brüssel hier nicht genau beschreiben. Klar ist, dass der Rahmen angewandt wird. Seine Transparenzregeln erreichen normale Nutzer, nicht nur große Technologieunternehmen.
Die Finanzierung erzählt einen anderen Teil der Geschichte. Schweizer Tech-Unternehmen sammelten im ersten Halbjahr 2026 mehr als 1.100.000.000 Euro ein, laut Tech.eu am 24. September. Die zehn größten Runden machten rund zwei Drittel der Summe aus. Halbleiter zogen etwa 281.000.000 Euro an, Energie 223.000.000 Euro und Healthtech 220.000.000 Euro. Die Zahlen beschreiben einen europäischen Markt, der Kapital in einer Handvoll kapitalintensiver Sektoren bündelt, statt es breit zu streuen. Das ist das Gegenteil des diffusen, schnelllebigen Ökosystems, das Debatten über KI-Sicherheit oft voraussetzen.
Dasselbe Muster zeigt sich in der Infrastruktur. Canary Media berichtete am 24. September, das US-Energieministerium habe über sein SPARK-Förderprogramm 1.900.000.000 Dollar an 31 Projekte in 26 Bundesstaaten vergeben. Versorgungsunternehmen sagten 3.350.000.000 Dollar an passenden Mitteln zu. Energieminister Chris Wright sagte, die Zuschüsse würden mehr aus bestehender Infrastruktur herausholen. Das ist eine Netzgeschichte, keine KI-Geschichte. Es ist trotzdem die Art von Industriepolitik, auf die die Technologiedebatte der EU immer wieder stößt: Geld für physische Kapazität, nicht für Argumente über das Verhalten von Modellen.
Nichts davon entscheidet, ob Gates mit dem Ausmaß der Gefahr recht hat. Es entscheidet auch nicht, ob Europas Industrie recht hat, dass die Gefahr überverkauft wird. Es zeigt aber, dass die beiden Positionen aneinander vorbei argumentiert werden. Gates will verbindliche Schutzmaßnahmen und Überwachung. Die europäischen Kritiker wollen, dass dieselben Unternehmen bessere Sandboxen bauen und ihre eigenen Systeme überwachen. Beide beschreiben Arbeit, die nicht getan wurde.
Der AI Act wird daran gemessen werden, ob er diese Arbeit erzwingt oder nur Papierkram hinzufügt. Nach der öffentlichen Beweislage ist diese Frage noch offen. Die lautesten Stimmen auf beiden Seiten sind nicht die, die sie beantworten müssen.
Quellen
6- 01Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
- 02Don't believe the doomers: Europe's tech industry slams AI panicEN
- 03Switzerland's top-funded tech companies in H1 2026EN
- 04Advanced grid tech gets a $1.9B DOE boostEN
- 05TechCrunch Mobility: AV companies pick their lanesEN
- 06Mazda adds LiDAR to CX-6e, rolls out 'self driving' tech in ChinaEN
Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.
Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.
Kommentare
0- Noch keine Kommentare — seien Sie der Erste.