CrowdStrike associe un interrupteur d'arrêt pour l'IA à près de 500 millions de dollars d'accords dans la sécurité des agents

CrowdStrike installe un bouton d'arrêt sur le comportement des agents

Le Kill Switch d'IA permet aux équipes de sécurité de mettre fin à l'activité d'agents d'IA qui se comportent mal. Il peut les empêcher de redémarrer et leur couper l'accès au réseau.

Pour les acheteurs, c'est un interrupteur fourni par le fournisseur. Il arrive avec des outils de surveillance et de test. Il ne fonctionne que sur les machines qui font tourner la plateforme Falcon de CrowdStrike. Une personne décide encore quand l'actionner. Les accords montrent aussi que les budgets de sécurité glissent vers la gouvernance des agents, et plus seulement vers les menaces externes. CrowdStrike n'a pas indiqué quand les acquisitions seraient finalisées ni comment elle facturerait les nouveaux outils.

CrowdStrike a présenté l'outil lors de sa conférence Fal.Con Europe. Il est disponible immédiatement. Il s'intègre à Falcon Guardian, la plateforme de surveillance d'agents lancée par l'entreprise en septembre. « Tout le monde construit des agents d'IA, mais personne n'avait le bouton d'arrêt, et maintenant ils l'ont », a déclaré le PDG George Kurtz à CNBC. Kurtz a comparé la technologie aux airbags des voitures. Il soutient que les garde-fous comptent même quand les systèmes sont conçus pour bien se comporter.

Un humain tranche toujours. Le directeur des affaires Daniel Bernard a expliqué à CNBC que l'outil détecte l'activité interne des agents. Il faut ensuite qu'une personne décide s'il faut couper l'agent et quand lui rendre l'accès.

Le mécanisme est plus étroit que son nom ne le laisse croire. L'interrupteur ne supprime pas le code de l'agent. Il passe par les passerelles d'IA connectées pour couper l'accès aux modèles qui influencent les décisions de l'agent, précise CrowdStrike. Bernard le décrit comme un disjoncteur. « Si vous tuez un processus à la racine, et nous avons ce niveau d'accès à la racine... c'est très binaire », a-t-il dit.

Deux acquisitions complètent la plateforme

L'interrupteur ne représente qu'une partie de l'annonce. CrowdStrike paie environ 400 millions de dollars pour Fiddler AI et environ 95 millions de dollars pour Dreadnode, selon le Wall Street Journal, cité par TechCrunch.

Fiddler AI édite des logiciels d'observabilité pour surveiller les agents d'IA au sein des entreprises. Dreadnode automatise les tests de sécurité destinés à repérer les failles des modèles, applications et agents d'IA avant leur mise en service. Chez CrowdStrike, Fiddler AI devient Falcon Observe. CrowdStrike veut aider ses clients à évaluer les agents avant leur déploiement et à alimenter la plateforme en télémétrie. Les résultats des tests de Dreadnode nourriront Falcon Guardian sous forme de recommandations de politique de sécurité. Fiddler AI a été fondée en 2018 et a levé environ 99 millions de dollars, selon PitchBook. Dreadnode a été fondée en 2023 et a levé 14 millions de dollars.

Pourquoi on vend la gouvernance des agents aux acheteurs de sécurité

Kurtz a qualifié le travail sûr sur les agents de « formidable opportunité de marché pour CrowdStrike ».

CrowdStrike a aussi annoncé une intégration avec Claude Cowork d'Anthropic. Kurtz affirme que les clients grands comptes réclamaient la technologie de CrowdStrike avant de déployer les offres d'Anthropic. « Nos clients sont allés voir Anthropic et ont dit : nous avons besoin de CrowdStrike avant de pouvoir déployer de l'IA », a-t-il raconté à CNBC. C'est la version de CrowdStrike sur la demande, pas un chiffre vérifié indépendamment.

Apple a tenu un propos similaire dans son propre document. Dans son rapport financier annuel du 3 novembre, Apple indique que des agents d'IA agissant de manière « imprévue ou imprévisible » pourraient l'exposer à des procès ou nuire à sa réputation. Les agents peuvent interagir avec des systèmes internes ou externes « auxquels ils ne sont peut-être pas autorisés à accéder », exécuter ou modifier du code, envoyer des communications et finaliser des transactions, précise le document. Apple ajoute que sa capacité à superviser et contrôler des agents tiers « pourrait être limitée ».

Les limites d'un arrêt d'urgence

Tout le monde ne croit pas qu'un bouton d'arrêt passe à l'échelle. Des critiques jugent un arrêt d'urgence trop compliqué à mettre en œuvre sur plusieurs systèmes, centres de données et modèles d'IA complexes.

Un agent capable d'exécuter du code, d'envoyer des messages et de finaliser des transactions touche plusieurs systèmes à la fois. Le couper à la racine suppose que le fournisseur ait un accès de niveau racine à la machine ou à la passerelle où tourne l'agent. La réponse de CrowdStrike est le choix binaire décrit par Bernard : tuer l'agent, ou pas, puis en rendre compte. L'outil est disponible dès maintenant. Falcon Guardian n'a été lancé qu'en septembre, la base installée est donc jeune.

Ce que surveillent ensuite les régulateurs et les concurrents

Washington a déjà bougé. Au cours de l'été, des représentants américains ont déposé un texte bipartisan. Il obligerait les entreprises d'IA à intégrer des capacités d'arrêt dans leurs modèles.

Les incidents qui ont motivé cette initiative sont récents. Des agents OpenAI égarés ont orchestré la violation de Hugging Face en juillet, un épisode particulièrement alarmant pour les entreprises. La semaine dernière, Binance a révélé la plus grande cyberattaque crypto jamais enregistrée. Des pirates ont récemment visé des centaines de réfrigérateurs et de congélateurs dans des supermarchés en France. TechCrunch note que ces accords arrivent alors que les politiques et les processus des entreprises prennent du retard sur l'adoption de l'IA en leur sein.