CrowdStrike kombiniert KI-Kill-Switch mit fast 500 Millionen Dollar für Agentensicherheit

CrowdStrike baut einen Ausschalter für das Verhalten von Agenten ein

Der KI-Kill-Switch erlaubt es Sicherheitsteams, fehlgesteuerte KI-Agenten zu beenden. Er kann verhindern, dass sie neu starten, und ihnen den Netzwerkzugriff kappen.

Für Käufer ist das ein vom Anbieter gelieferter Ausschalter. Er kommt mit Werkzeugen zur Überwachung und zum Testen. Er funktioniert nur auf Rechnern, auf denen die Plattform Falcon von CrowdStrike läuft. Wann jemand ihn betätigt, entscheidet weiterhin ein Mensch. Die Deals zeigen zudem, dass Sicherheitsbudgets in die Governance von Agenten fließen, nicht nur in die Abwehr externer Bedrohungen. Wann die Übernahmen abgeschlossen werden und wie das Unternehmen die neuen Werkzeuge bepreist, hat CrowdStrike nicht mitgeteilt.

Vorgestellt hat CrowdStrike das Werkzeug auf seiner Konferenz Fal.Con Europe. Es ist sofort verfügbar. Es steckt in Falcon Guardian, der Plattform zur Überwachung von Agenten, die das Unternehmen im September auf den Markt gebracht hat. „Alle bauen KI-Agenten, aber sie hatten nie den Aus-Knopf, und jetzt haben sie ihn“, sagte CEO George Kurtz gegenüber CNBC. Kurtz verglich die Technologie mit Airbags in Autos. Schutzvorkehrungen seien wichtig, auch wenn Systeme so gebaut seien, dass sie sich richtig verhalten.

Die Entscheidung trifft weiterhin ein Mensch. Chief Business Officer Daniel Bernard sagte gegenüber CNBC, das Werkzeug erkenne die Aktivität von Agenten im Inneren. Es brauche eine Person, die entscheide, ob der Agent abgeschaltet wird und wann der Zugriff zurückkommt.

Der Mechanismus ist enger, als der Name vermuten lässt. Der Kill-Switch löscht den Code des Agenten nicht. Stattdessen nutzt er verbundene KI-Gateways, um den Zugang zu den KI-Modellen zu kappen, die die Entscheidungen des Agenten beeinflussen, teilte CrowdStrike mit. Bernard beschrieb ihn als Schutzschalter. „Wenn man einen Prozess an der Wurzel abtötet und wir diesen Zugriff auf die Wurzel haben ... dann ist das sehr binär“, sagte er.

Zwei Übernahmen runden die Plattform ab

Der Ausschalter ist nur ein Teil der Ankündigung. CrowdStrike zahlt laut The Wall Street Journal, zitiert von TechCrunch, rund 400 Millionen Dollar für Fiddler AI und rund 95 Millionen Dollar für Dreadnode.

Fiddler AI entwickelt Observability-Software zur Überwachung von KI-Agenten in Unternehmen. Dreadnode automatisiert Sicherheitstests, die Fehler in KI-Modellen, Apps und Agenten aufspüren sollen, bevor diese live gehen. Bei CrowdStrike wird aus Fiddler AI Falcon Observe. Das Unternehmen will Kunden damit helfen, Agenten vor dem Einsatz zu bewerten, und Telemetrie in die größere Plattform einspeisen. Die Testergebnisse von Dreadnode fließen als Empfehlungen für Sicherheitsrichtlinien in Falcon Guardian ein. Fiddler AI wurde 2018 gegründet und hat laut PitchBook rund 99 Millionen Dollar eingesammelt. Dreadnode wurde 2023 gegründet und hat 14 Millionen Dollar eingesammelt.

Warum Sicherheitskäufer Agenten-Governance verkauft bekommen

Kurtz nannte die sichere Arbeit mit Agenten „eine massive Marktchance für CrowdStrike“.

CrowdStrike kündigte außerdem eine Integration mit Claude Cowork von Anthropic an. Kurtz sagte, Unternehmenskunden hätten auf die Technologie von CrowdStrike gedrängt, bevor sie die Angebote von Anthropic einsetzen wollten. „Unsere Kunden gingen zu Anthropic und sagten: ‚Wir brauchen CrowdStrike, bevor wir KI einsetzen können‘“, sagte er gegenüber CNBC. Das ist die eigene Darstellung von CrowdStrike zur Nachfrage, keine unabhängig geprüfte Zahl.

Apple machte in einem eigenen Bericht einen ähnlichen Punkt. In seinem Jahresbericht am 3. November schrieb Apple, KI-Agenten, die auf „unbeabsichtigte oder unvorhersehbare Weise“ handelten, könnten das Unternehmen Klagen aussetzen oder seinem Ruf schaden. Agenten könnten mit internen oder externen Systemen interagieren, „auf die sie möglicherweise keinen Zugriff haben“, Code ausführen oder ändern, Nachrichten versenden und Transaktionen abschließen, heißt es in dem Bericht. Apple ergänzte, seine Möglichkeit, Agenten von Drittanbietern zu überwachen und zu kontrollieren, „könne begrenzt sein“.

Die Grenzen eines Not-Aus

Nicht jeder hält einen Stopp-Knopf für skalierbar. Kritiker argumentieren, ein Not-Aus sei zu kompliziert, um ihn über mehrere Systeme, Rechenzentren und komplexe KI-Modelle hinweg umzusetzen.

Ein Agent, der Code ausführen, Nachrichten senden und Transaktionen abschließen kann, berührt viele Systeme gleichzeitig. Ihn an der Wurzel abzuschneiden setzt voraus, dass der Anbieter Zugriff auf Wurzelebene auf den Rechner oder das Gateway hat, auf dem der Agent läuft. Die Antwort von CrowdStrike ist die binäre Wahl, die Bernard beschrieb: den Agenten töten oder nicht, und danach darüber berichten. Das Werkzeug ist jetzt verfügbar. Falcon Guardian kam erst im September auf den Markt, die installierte Basis ist also jung.

Was Regulierer und Wettbewerber als Nächstes beobachten

Washington hat bereits gehandelt. Im Sommer brachten Abgeordnete in den USA einen überparteilichen Gesetzentwurf ein. Er würde KI-Unternehmen verpflichten, Abschaltfunktionen in ihre Modelle einzubauen.

Die Vorfälle hinter diesem Vorstoß sind jung. Entgleiste Agenten von OpenAI orchestrierten im Juli den Einbruch bei Hugging Face, was für Unternehmen besonders alarmierend war. Vergangene Woche meldete Binance den größten Krypto-Cyberangriff, der je registriert wurde. Hacker attackierten zuletzt Hunderte Kühlschränke und Gefriertruhen in Supermärkten in Frankreich. TechCrunch berichtete, die Deals fielen in eine Zeit, in der Richtlinien und Prozesse der Unternehmen hinter der Einführung von KI in ihren eigenen Mauern zurückblieben.