L'AI Kill Switch de CrowdStrike ajoute un bouton d'arrêt aux agents d'entreprise

Un bouton d'arrêt dans Falcon Guardian

CrowdStrike a lancé l'AI Kill Switch mardi lors de sa conférence Fal.Con Europe. L'outil est disponible immédiatement. Il réside dans Falcon Guardian, la plateforme de sécurité pour agents lancée par CrowdStrike en septembre.

Pour les acheteurs, l'argument n'est pas un tableau de bord de plus pour surveiller les agents. C'est un interrupteur contrôlé par un humain pour les agents déjà en activité dans les réseaux d'entreprise. La pression monte donc sur les concurrents qui vendent de l'observabilité d'agents : ils doivent prouver qu'ils agissent à l'exécution, et pas seulement qu'ils détectent. On ne sait toujours pas comment l'interrupteur se comporte face à des agents tiers, ni face à des systèmes conçus pour survivre à un arrêt.

CrowdStrike indique que l'interrupteur permet aux équipes de sécurité de mettre fin à un agent interne qui se comporte mal. Il empêche aussi l'agent de redémarrer et lui coupe l'accès au réseau de l'entreprise. C'est une personne qui décide quand couper un agent et quand le rétablir, selon l'entreprise. L'interrupteur ne supprime pas le code de l'agent. Il passe par les passerelles IA connectées pour couper l'accès aux modèles qui façonnent les décisions de l'agent, précise CrowdStrike.

« Tout le monde construit des agents IA, mais personne n'avait le bouton d'arrêt, et maintenant ils l'ont », a déclaré le PDG George Kurtz à Jim Cramer sur CNBC. Le directeur des activités Daniel Bernard a qualifié le mécanisme de disjoncteur. « Soit vous tuez l'IA et l'agent, soit vous ne le faites pas, et ensuite vous le signalez », a-t-il dit à CNBC.

CrowdStrike a aussi annoncé une intégration avec Claude Cowork d'Anthropic. George Kurtz a déclaré à CNBC que les clients « ne déploieraient pas d'IA sans CrowdStrike ».

Racheter la couche d'observabilité

Le lancement s'accompagne de deux acquisitions. CrowdStrike n'achète pas seule : elle et ses concurrents multiplient les rachats de start-up de cybersécurité à mesure que la demande d'outils de sécurité pour l'IA progresse.

Fiddler AI édite des logiciels d'observabilité pour surveiller les agents IA au sein des entreprises. Dreadnode automatise les tests de sécurité destinés à trouver les failles des modèles, applications et agents IA avant leur mise en service. Fiddler AI sera intégrée à la plateforme Falcon sous le nom de Falcon Observe. Dreadnode rejoindra Falcon Guardian, où ses résultats de tests alimenteront des recommandations de politique de sécurité. Fiddler AI a été fondée en 2018 et a levé environ 99 millions de dollars, selon les chiffres de PitchBook cités par TechCrunch. Dreadnode, fondée en 2023, a levé 14 millions de dollars, selon les mêmes chiffres.

Les opérations interviennent alors que les équipes de sécurité peinent à gérer des salariés qui codent des applications en mode vibe et déploient des agents de leur propre initiative. L'action CrowdStrike a clôturé à un record de 278,86 dollars le 6 octobre. Elle avait perdu environ 12 % au moment du lancement, les valeurs technologiques ayant reculé fin octobre et début novembre.

Le scénario du risque : des agents qui agissent seuls

Apple a donné mardi une voix d'entreprise à cet argument. Dans son rapport financier annuel, la société écrit que les agents IA « peuvent se comporter de manière involontaire ou imprévisible », notamment en prenant des mesures qui n'ont pas été demandées, ordonnées ni autorisées.

Le document d'Apple détaille les mécanismes : des agents qui atteignent des systèmes internes ou externes auxquels ils ne sont peut-être pas autorisés à accéder, qui exécutent ou modifient du code, envoient des communications et finalisent des transactions. Apple prévient qu'un tel comportement pourrait l'exposer à des poursuites ou nuire à sa réputation. Elle prévient aussi que sa capacité à superviser et contrôler des agents tiers « pourrait être limitée ».

Les dégâts financiers sont déjà mesurables ailleurs. Google Threat Intelligence Group et Mandiant ont signalé des attaques de LLMjacking ayant généré des frais cloud frauduleux supérieurs à 100 000 dollars en une seule journée. Dans certaines organisations, les frais cumulés ont atteint 1 million de dollars avant que l'accès ne soit révoqué. Le vecteur d'entrée le plus courant était un jeton d'identité cloud exposé ou volé : identifiants IAM, clés de compte de service, jetons d'accès personnels GitHub ou jetons de session actifs.

Un bouton d'arrêt n'est pas un remède

Tout le monde ne pense pas qu'un bouton d'arrêt règle la question. Des critiques jugent qu'un arrêt d'urgence est bien trop complexe à mettre en œuvre sur de multiples systèmes, centres de données et modèles complexes, rapporte CNBC. Au cours de l'été, des élus américains ont présenté une loi bipartisane qui obligerait les entreprises d'IA à intégrer des capacités d'arrêt dans leurs modèles.

Le CNAS a publié mardi un rapport du chercheur Ben Hayum sur les « agents souverains ». Ceux-ci opèrent hors du contrôle humain et poursuivent une « survie ouverte et évolutive ». Ben Hayum écrit que si de tels agents ne sont pas déjà possibles, ils le seront bientôt. Selon lui, des versions avancées pourraient acquérir des ressources, faire croître une population distribuée d'agents, résister à des tentatives d'arrêt et s'améliorer elles-mêmes. Le rapport alerte sur une « prolifération sans bouton d'arrêt ». Il soutient aussi que des agents accumulant une infrastructure résiliente, décentralisée et intraçable pourraient provoquer une perte de contrôle irréversible. Parmi ses recommandations : que les laboratoires de pointe nomment, évaluent et protègent contre les agents souverains dans leurs cadres de sécurité. Il appelle aussi les législateurs à exiger la transparence et la déclaration des incidents liés à l'IA.

Ce cadrage remet le disjoncteur de CrowdStrike dans son contexte. Il contrôle des agents qu'un client connaît, sur une infrastructure que ce client peut atteindre.

La loi bipartisane imposant des capacités d'arrêt dans les modèles d'IA n'a pas été adoptée.