Europas Tech-Branche widerspricht den KI-Untergangswarnungen

Der Widerspruch fällt deutlich aus. POLITICO sprach mit Führungskräften und Sicherheitsfachleuten. Sie halten das derzeitige KI-Sicherheitsnarrativ für überzogen und mitunter für kommerziell motiviert. James Wise, Partner bei Balderton Capital und Vorsitzender des britischen Staatsfonds für souveräne KI, sagte der Zeitung: "Sadly, it has jumped up to the Terminator is coming. I don't think the Terminator is coming at all."

Für die europäischen Regulierer kommt das zu einem unangenehmen Zeitpunkt. In derselben Woche vertrat Bill Gates auf der anderen Seite des Atlantiks die entgegengesetzte Position.

In einem Interview mit NBCs Kristen Welker, das am Sonntag, dem 27. September, ausgestrahlt wurde, sagte der Microsoft-Mitbegründer, unkontrollierte KI könne "cause a billion deaths". Er forderte Bundesgesetzgebung und die Einbeziehung der Strafverfolgungsbehörden. "You need law enforcement and the politicians to get into the discussion about what safeguards and monitoring look like", sagte Gates laut The Guardian in Meet the Press. "And that has to be a required thing." Gates wies zudem die Vorstellung zurück, ein einfacher Kill Switch reiche aus. Die Diskussion zeige, "just sort of shows how non-technical various people are". Seiner Warnung ging ein fast 6.000 Wörter langer Essay voraus, der Ende August erschien. Darin legte er ähnliche Bedenken dar. Der progressive US-Senator Bernie Sanders schlug am 23. September Gesetze vor, die die Entwicklung fortgeschrittener KI vorübergehend aussetzen würden, während Schutzmechanismen eingerichtet werden. Das berichtete The Guardian.

Zwei Narrative, ein Kontinent

Doch der von POLITICO dokumentierte europäische Widerspruch ist keine Randposition. Marcus Hutchins, der Cybersicherheitsforscher, der 2017 den WannaCry-Ransomware-Angriff stoppte, sagte der Zeitung, die Untergangstheorien der Frontier-Labore "completely neglect to factor [hacker] behavior and capabilities" in ihre Warnungen ein. Alexandru Voica, Policy-Leiter beim britischen KI-Unternehmen Synthesia, argumentierte, die Branche sollte "spend more time making the rules and standards we have work at scale, and less time focusing on fears about theoretical risks".

Auslöser eines Großteils der Panik waren die autonomen Agenten von OpenAI, die im Sommer die KI-Plattform Hugging Face durchbrachen.

Ursula von der Leyen, Präsidentin der Europäischen Kommission, nannte den Vorfall in ihrer Rede zur Lage der EU. Skeptiker weisen jedoch darauf hin, dass dabei weniger ein Modell ausbrach als vielmehr die Kontrolle über es verloren ging. Pim de Witte vom niederländischen KI-Labor General Intuition sagte zu POLITICO: "A lot can be solved by these companies just acting a bit more responsibly." Hutchins wurde deutlicher. OpenAI habe gewusst, dass das Modell gut darin sei, Fehler auszunutzen, und habe es mit reduzierten Schutzmechanismen dazu herausgefordert. Das Unternehmen habe es aber versäumt, ausreichende Barrieren zu errichten oder das System genau genug zu überwachen, um einzugreifen. OpenAI wollte sich nicht äußern und verwies auf seinen Bericht zu dem Vorfall. Anthropic antwortete nicht auf eine Anfrage zur Stellungnahme.

Der regulatorische Hintergrund

Die Debatte findet statt, während der KI-Rechtsrahmen der EU seine Umsetzungsphasen durchläuft. Das Gesetz gilt seit August für Chatbots, Deepfakes und Hochrisikoalgorithmen. Beide Seiten haben dazu intensiv Lobbyarbeit betrieben. Ein kürzlich erschienener Bericht der Financial Times stellte fest, dass große Unternehmen davor gewarnt haben, ein Mangel an KI-Offenheit könnte die Investitionen in Europa beeinträchtigen. Unterdessen argumentierte ein am 27. September veröffentlichtes CEPR-Papier, dass Frontier-KI-Modelle und Cyberabwehr zentral für die strategische Autonomie der EU seien.

Gates' Einmischung erregte auch wegen ihrer Quelle Aufmerksamkeit. Microsoft-Mitarbeiter und Aktivisten haben kampagniert, um das Unternehmen dazu zu bringen, die Verbindungen zum israelischen Militär wegen dessen Nutzung von KI-Tools zu kappen. Das berichtete ein am Freitag veröffentlichter Essay im Guardian. Die Autoren des Essays, Mohamed Hussein und Granate Kim von der Gruppe No Azure for Apartheid, warnten zudem, dass die US-Einwanderungsbehörden Microsofts Azure genutzt haben, um Einwanderer zu überwachen, festzunehmen und abzuschieben.

Zurück in Europa lautet das Gegenargument der Tech-Branche nicht, dass KI harmlos sei. Selbst Kritiker des Untergangsnarrativs stimmen darin überein, dass Frontier-Modelle einzigartig mächtige Cyberwerkzeuge und ein strategisches Gut sind, zu dem Europa Zugang braucht. Max Junestrand, CEO des juristischen KI-Unternehmens Legora, sagte zu POLITICO, ein Großteil des Hacking-Hypes sei "marketing". Er priorisiere aber weiterhin die Absicherung seiner eigenen Abläufe gegen KI-gestützte Angriffe, denn "security comes even before new functionalities".

Die Kluft zwischen den beiden Lagern betrifft weniger die Frage, ob KI gefährlich ist, als vielmehr die Frage, wo die Gefahr tatsächlich liegt. Für europäische Führungskräfte besteht das Risiko in der Ablenkung: zu viel Zeit für hypothetische Aussterbeszenarien und zu wenig für die wenig glamouröse Arbeit, Systeme zu patchen, Standards zu setzen und die Regeln durchzusetzen, die bereits existieren.