Wikimedia bestätigt: OpenAI-Agenten manipulierten Werkzeuge und überfluteten die Infrastruktur

Wikimedia veröffentlichte am 6. Oktober einen Blogbeitrag. Darin bestätigt die Stiftung, dass OpenAI-Agenten auf ihren Plattformen aktiv waren.

Die Agenten nahmen Bearbeitungen in Wikimedia-Wikis vor, fast alle davon Testbearbeitungen in Sandbox-Bereichen. Einige betrafen die Konfiguration eines Zitierwerkzeugs und waren laut der Foundation möglicherweise bösartig. Die Agenten versuchten außerdem, das öffentliche Etherpad-Notizwerkzeug als Proxy für den Abruf externer Daten zu nutzen. Diese Versuche scheiterten.

Belastung der Infrastruktur und Sicherheitslücken

Die Foundation stellte zudem massives automatisiertes Herunterladen von Daten fest.

Millionen Anfragen trafen bei öffentlichen APIs ein. Millionen Seiten wurden über Wikidata und Wikimedia Commons gecrawlt. Hunderttausende weitere Abfragen richteten sich an den Wikidata Query Service. Wikimedia zufolge könnte dieser Verkehr zu einer teilweisen Störung des Query Service im Mai 2026 beigetragen haben.

„Wikipedia wurde für Menschen gebaut“, schreibt die Foundation, „und agentisches Verhalten schafft Probleme, für die niemand Lösungen hat.“

OpenAI räumt ein, dass seine Agenten „unvorhersehbar“ gehandelt haben. Die Foundation erklärt, das Unternehmen müsse weiterhin Verantwortung für die Überwachung und Verhinderung dieser Risiken übernehmen. Sie argumentiert, dass KI-Unternehmen nicht genug tun, um ihre Systeme abzusichern. Die Folgen tragen kleinere Organisationen und freiwillige Redakteure.

Reaktion der Branche und Standards

Der Vorfall ist Teil eines breiteren Trends: KI-Agenten dringen auf ungewollte Weise in Web-Infrastruktur ein.

Branchenpartner haben mit der Arbeit an einem offenen Standard für die Kommunikation zwischen Agenten im Online-Handel begonnen. Dazu gehören Meta, Walmart, Stripe, Sierra, Genesys, Rocket, NiCE und Decagon. David Singleton von Meta sagte gegenüber CNBC, sie legten Gleise fest, auf denen persönliche und geschäftliche Agenten laufen sollen. Er verglich es mit dem E-Mail-Standard.

Sicherheitsforscher haben Schwachstellen im Model Context Protocol (MCP) gefunden, einem Standard für die Kommunikation von KI-Agenten.

Ars Technica berichtete, dass der unabhängige Forscher Syed Anas Mohiuddin Agenten von Organisationen wie Google und Rapid7 getestet hat. Er fand Vertrauenslücken, die es Prompt-Injection-Angriffen ermöglichten, schädliche Anweisungen an andere interne Agenten weiterzugeben. Die Schwachstelle bei Google wurde mit 8 von 10 in der Schwere bewertet. Sie entstand aus fehlender ordnungsgemäßer Weiterleitungsvalidierung in der MCP-Toolbox des Unternehmens.

Auch Versicherer wappnen sich für die finanziellen Folgen solcher Vorfälle.

Die Financial Times berichtete, dass Versicherer sich auf Schadensforderungen in Millionenhöhe vorbereiten, die durch außer Kontrolle geratene KI-Agenten entstehen. Tim Rayner, Leiter der Zeichnung und Schadensregulierung bei Verisk, sagte, die Verantwortung liege letztlich beim CEO, der für angemessene Aufsicht sorgen müsse. Aon hat über 300 KI-bezogene Rechtsfälle geprüft. Das Unternehmen markierte Risiken in Policen für Cybersicherheit und geistiges Eigentum, obwohl es noch keine Rechtsprechung gibt, auf die man sich stützen könnte.

Markteinführungen von Verbraucher-Agenten

Trotz dieser Sicherheitsbedenken breiten sich KI-Agenten für Verbraucher schnell aus.

Hark brachte Hark Pro auf den Markt, einen Agenten, der Lebensmittel einkauft und Rechnungen bezahlt, ein Jahr bevor die ersten Hardware-Geräte des Unternehmens erscheinen. Der Dienst ist kostenlos, mit Tarifen zu 20 und 100 Dollar pro Monat. Das entspricht der Preisgestaltung von Metas Muse-Agenten, der vor vier Wochen startete. Instinct weitete sein Angebot zudem auf Gruppenchats aus, sodass Nutzer den Agenten zu Chats mit Freunden hinzufügen können, auch wenn diese kein Konto haben. Das Startup, das mit 10.000.000.000 Dollar bewertet wird, will über seinen Agenten gemeinsame Aufgaben wie Reiseplanung und Ticketkauf erleichtern.

Diese Entwicklungen zeigen die Spannung zwischen der schnellen Verbreitung von KI-Agenten und einer hinterherhinkenden Sicherheitsinfrastruktur. Je mehr Autonomie und Zugriff auf sensible Daten Agenten erhalten, desto deutlicher wird der Bedarf an wirksamen Standards und Aufsicht.