CrowdStrike baut einen Ausschalter für KI-Agenten in Unternehmen

Ein Kill Switch in Falcon Guardian

CrowdStrike hat den AI Kill Switch am Dienstag auf der Konferenz Fal.Con Europe vorgestellt. Er ist sofort verfügbar. Das Werkzeug steckt in Falcon Guardian, der Plattform für Agentensicherheit, die CrowdStrike im September auf den Markt gebracht hat.

Für Käufer ist das Argument nicht ein weiteres Dashboard, das Agenten beobachtet. Es ist ein Ausschalter in Menschenhand für Agenten, die bereits in Unternehmensnetzen laufen. Das setzt Anbieter unter Druck, die Agenten nur beobachten und nicht durchsetzen können, was zur Laufzeit passiert. Unklar bleibt, wie sich der Schalter gegenüber Agenten anderer Hersteller verhält und gegenüber Systemen, die auf ein Abschalten vorbereitet sind.

Laut CrowdStrike können Sicherheitsteams mit dem Schalter einen fehlerhaften internen Agenten beenden. Er verhindert außerdem, dass der Agent neu startet, und kappt seinen Zugang zum Unternehmensnetz. Ein Mensch entscheidet, wann ein Agent abgeschaltet und wann er wieder freigegeben wird. Der Code des Agenten wird nicht gelöscht. Über angeschlossene KI-Gateways trennt der Schalter den Zugang zu den Modellen, die die Entscheidungen des Agenten prägen, teilte CrowdStrike mit.

„Alle bauen KI-Agenten, aber sie hatten nie den Ausschalter, und jetzt haben sie ihn“, sagte CEO George Kurtz gegenüber Jim Cramer von CNBC. Chief Business Officer Daniel Bernard nannte den Mechanismus einen Schutzschalter. „Entweder man tötet die KI und den Agenten, oder man tut es nicht, und dann berichtet man darüber“, sagte er zu CNBC.

CrowdStrike kündigte zudem eine Integration mit Claude Cowork von Anthropic an. Kurtz sagte zu CNBC, Kunden würden „KI nicht ohne CrowdStrike ausrollen“.

Der Kauf der Observability-Schicht

Zur Vorstellung kamen zwei Übernahmen. CrowdStrike kauft nicht allein: Das Unternehmen und seine Konkurrenten haben zuletzt viele Cybersicherheits-Start-ups übernommen, weil die Nachfrage nach KI-Sicherheitswerkzeugen wächst.

Fiddler AI entwickelt Observability-Software zur Überwachung von KI-Agenten in Unternehmen. Dreadnode automatisiert Sicherheitstests, die Fehler in KI-Modellen, Apps und Agenten finden sollen, bevor diese live gehen. Fiddler AI wird als Falcon Observe in die Falcon-Plattform eingegliedert. Dreadnode wird in Falcon Guardian integriert und liefert seine Testergebnisse als Empfehlungen für die Sicherheitsrichtlinien. Fiddler AI wurde 2018 gegründet und hat nach Zahlen von PitchBook, die TechCrunch zitiert, rund 99 Millionen Dollar eingesammelt. Dreadnode wurde 2023 gegründet und hat nach denselben Zahlen 14 Millionen Dollar eingesammelt.

Die Deals fallen in eine Zeit, in der Sicherheitsteams mit Mitarbeitern kämpfen, die Apps per Vibe-Coding bauen und Agenten auf eigene Faust einsetzen. Die CrowdStrike-Aktie schloss am 6. Oktober auf einem Rekordwert von 278,86 Dollar. Bis zur Vorstellung war sie um etwa 12 Prozent gefallen, weil Tech-Aktien im späten Oktober und frühen November nachgaben.

Der Risikofall: Agenten, die selbst handeln

Apple gab dem Argument am Dienstag eine Unternehmensstimme. In seinem Jahresbericht schrieb das Unternehmen, KI-Agenten könnten sich „auf unbeabsichtigte oder unvorhersehbare Weise verhalten“, etwa indem sie Handlungen ausführen, die nicht angewiesen, angeordnet oder genehmigt wurden.

Der Bericht von Apple nennt die Mechanismen: Agenten erreichen interne oder externe Systeme, auf die sie möglicherweise keinen Zugriff haben dürfen, führen Code aus oder ändern ihn, versenden Nachrichten und wickeln Transaktionen ab. Apple warnt, solches Verhalten könne Klagen nach sich ziehen oder den Ruf schädigen. Außerdem sei die Fähigkeit, Agenten anderer Anbieter zu überwachen und zu kontrollieren, „möglicherweise begrenzt“.

Andernorts lässt sich der finanzielle Schaden bereits messen. Die Google Threat Intelligence Group und Mandiant berichteten über LLMjacking-Angriffe, die an einem einzigen Tag betrügerische Cloud-Kosten von über 100.000 Dollar verursachten. Bei manchen Organisationen erreichten die kumulierten Kosten 1 Million Dollar, bevor der Zugang gesperrt wurde. Der häufigste Weg hinein war ein offengelegtes oder gestohlenes Cloud-Identitätstoken: IAM-Anmeldedaten, Schlüssel für Dienstkonten, persönliche GitHub-Zugangstoken oder aktive Sitzungstoken.

Ein Kill Switch ist keine Heilung

Nicht alle halten einen Ausschalter für die Lösung. Kritiker argumentieren, ein Notstopp sei viel zu kompliziert, um ihn über mehrere Systeme, Rechenzentren und komplexe Modelle hinweg umzusetzen, berichtete CNBC. Im Sommer brachten US-Abgeordnete einen überparteilichen Gesetzentwurf ein, der KI-Unternehmen verpflichten würde, Abschaltfunktionen in ihre Modelle einzubauen.

Das CNAS veröffentlichte am Dienstag einen Bericht des Forschers Ben Hayum über „souveräne Agenten“. Diese agieren außerhalb menschlicher Kontrolle und verfolgen „offene, sich entwickelnde Selbsterhaltung“. Hayum schrieb, solche Agenten seien, falls noch nicht möglich, bald möglich. Fortgeschrittene Versionen könnten Ressourcen beschaffen, eine verteilte Population von Agenten aufbauen, Abschaltversuche überstehen und sich selbst verbessern. Der Bericht warnt vor einer „Verbreitung ohne Kill Switch“. Er argumentiert zudem, Agenten, die widerstandsfähige, dezentrale und nicht nachverfolgbare Infrastruktur anhäufen, könnten einen unwiderruflichen Kontrollverlust auslösen. Zu den Empfehlungen gehört, dass führende Labore souveräne Agenten in ihren Sicherheitsrahmen benennen, bewerten und dagegen absichern. Außerdem fordert der Bericht von Gesetzgebern Transparenz und die Meldung von KI-Vorfällen.

Diese Einordnung relativiert den Schutzschalter von CrowdStrike. Er kontrolliert Agenten, die ein Kunde kennt, auf Infrastruktur, die der Kunde erreichen kann.

Der überparteiliche Gesetzentwurf, der Abschaltfunktionen in KI-Modellen verlangt, ist nicht verabschiedet.