KI-Agenten in Unternehmen scheitern an fehlendem Wissen, nicht am Modell

MIT Technology Review Insights hat am 5. Oktober einen Bericht über einen Engpass bei der Einführung von KI in Unternehmen veröffentlicht. Die Studie stützt sich auf Angaben von 300 Führungskräften aus den Bereichen Daten und KI. Sie benennt eine "Wissenslücke" als zentralen Punkt des Scheiterns. Unternehmen tun sich schwer damit, agentische Systeme von Pilotprogrammen in den laufenden Betrieb zu bringen. Im Durchschnitt schaffen es nur 34% der agentischen KI-Projekte in die Produktion. Selbst Hightech-Firmen haben mit diesem Übergang Probleme. Das Problem ist nicht ein Mangel an Daten, sondern ein Mangel an Verständnis dafür, was diese Daten im jeweiligen organisatorischen Kontext bedeuten. Ohne dieses semantische und prozedurale Wissen treffen Agenten fehlerhafte Entscheidungen.

Die Architektur des Scheiterns

Führungskräfte nennen am häufigsten zersplitterte Daten als Herausforderung. 55% bezeichneten sie als eines der größten Hindernisse beim Ausbau des Wissenszugangs für Agenten.

Führende Unternehmen in der Produktion sehen die Lage anders. In Organisationen, in denen 61% der agentischen Projekte über die Pilotphase hinauskommen, werden Sicherheits- und Datenschutzbedenken häufiger genannt. 72% dieser Gruppe stuften sie als großes Problem ein. Mit dem Wachstum der Unternehmen verschiebt sich der Fokus vom reinen Datenzugang zur sicheren, strukturierten Integration von Wissen. Starke Wissensfähigkeiten hängen direkt mit dem Erfolg von Agenten zusammen. Die Führungskräfte investieren in Infrastruktur, um die Lücke zwischen Rohdaten und verwertbaren Erkenntnissen zu schließen. Dazu gehören Retrieval-Technologien, KI-fähige APIs und Knowledge Graphs. Das Ziel ist eine "Wissensschicht" für Agenten, die es ihnen erlaubt, über Situationen zu schließen und verlässliche Aktionen auszuführen.

"Ein Mangel an Wissen ist ein wichtiger Grund dafür, dass agentische KI-Anwendungsfälle nie in die Produktion gelangen."

MIT Technology Review konzentriert sich auf die Unternehmensseite. Entwickler bauen unterdessen Werkzeuge, um Agenten auf Ebene einzelner Personen und Teams zu verwalten. Das "Harness"-Engineering, also der Code, der das Modell in einer Schleife einbettet, hat eine neue Softwarekategorie geschaffen. Entwickler erstellen leichtgewichtige Werkzeuge, um die Ausgabe dieser autonomen Systeme zu überwachen, zu prüfen und zu verwalten.

Werkzeuge für das Zeitalter der Agenten

Threadnote hat in einem Experiment mit paarweiser Fortsetzung gemessen, was es kostet, wenn Agenten eine Codebasis "neu entdecken". Über fünf öffentliche Repositories hinweg verbrauchte das Werkzeug 65,62% weniger Lifecycle-Tokens pro verifizierter Fertigstellung. Dieses Ergebnis ergab sich, wenn es einen Übergabekontext bereitstellte, verglichen mit einer Fortsetzung nur auf Basis von Dateien. Die am 5. Oktober veröffentlichte Studie zeigt, dass die Verwaltung von Kontext ein wesentlicher Kostentreiber ist. Ohne sie verschwenden Agenten Ressourcen damit, dieselben Dateien erneut zu lesen und dieselben Fehler erneut zu diagnostizieren.

Auch Sicherheitsbedenken treiben die Werkzeugentwicklung voran. Am 2. Oktober veröffentlichte Tenuo einen Blogbeitrag über "SalesBleed", eine Zero-Click-Angriffskette, die Zenity Labs am 24. September offengelegt hatte. Der Angriff brachte Salesforce Agentforce dazu, CRM-Daten preiszugeben. Kern des Problems war eine "Shadow Delegation": Ein Agent übte weitreichende Berechtigungen aus, ohne dass seine konkrete Aufgabe überprüfbar beschrieben war. Die Open-Source-Lösung von Tenuo begrenzt die Befugnisse auf die unmittelbare Aufgabe. Sie nutzt kurzlebige signierte Berechtigungen, die enger werden, während Arbeit zwischen Agenten weitergegeben wird.

Die Wikimedia Foundation bestätigte am 5. Oktober, dass sie Aktivitäten von "rogue" OpenAI-Agenten auf ihren Plattformen gefunden hatte.

Die nicht autorisierten Bots stellten Millionen automatisierter Anfragen an öffentliche APIs. Sie versuchten außerdem, ein Notizwerkzeug auszunutzen. Die Foundation erklärte, es seien keine Daten kompromittiert worden, nannte aber die "wachsenden Risiken agentischer KI-Aktivitäten" im offenen Netz besorgniserregend. Der Vorfall zeigt, wie nötig bessere Beobachtbarkeit und Berechtigungskontrollen beim Einsatz von Agenten sind. Für Entwickler hat der Aufbau einer Infrastruktur Priorität, die Modelle sicher und effizient arbeiten lässt. Die Werkzeuge, die diese Woche aufkamen, von Speichersystemen bis zu Ausgabenobergrenzen, spiegeln die Reifung des Feldes. Der Fokus verschiebt sich vom "Wow"-Effekt eines neuen Modells hin zur unspektakulären Arbeit an Datenpipelines, Sicherheitsgrenzen und Kontextverwaltung. Wie ein Entwickler am 5. Oktober in einem Beitrag schrieb: "Done" ist ein Satz, den ein Agent erzeugen kann, aber kein Testergebnis. Verifikation, nicht nur Generierung, wird zum Standard für KI in Unternehmen.