L'AI Kill Switch di CrowdStrike mette un pulsante di spegnimento sugli agenti aziendali

Un kill switch dentro Falcon Guardian

CrowdStrike ha lanciato l'AI Kill Switch martedì alla conferenza Fal.Con Europe. È disponibile subito. Lo strumento si trova dentro Falcon Guardian, la piattaforma per la sicurezza degli agenti presentata da CrowdStrike a settembre.

Per chi compra, la proposta non è l'ennesima dashboard che osserva gli agenti. È un interruttore controllato da una persona per gli agenti già in funzione dentro le reti aziendali. Questo mette sotto pressione i concorrenti che vendono osservabilità sugli agenti: devono dimostrare l'applicazione delle regole a runtime, non solo la scoperta. Resta da capire come si comporta l'interruttore con agenti di terze parti e con sistemi progettati per sopravvivere a uno spegnimento.

CrowdStrike dice che l'interruttore permette ai team di sicurezza di terminare un agente interno che si comporta male. Impedisce anche all'agente di ripartire e gli taglia l'accesso alla rete aziendale. Secondo l'azienda, è una persona a decidere quando staccare un agente e quando riattivarlo. L'interruttore non cancella il codice dell'agente. Usa i gateway AI collegati per tagliare l'accesso ai modelli che orientano le decisioni dell'agente, ha spiegato CrowdStrike.

«Tutti stanno costruendo agenti AI, ma non hanno mai avuto il pulsante di spegnimento, e ora ce l'hanno», ha detto l'amministratore delegato George Kurtz a Jim Cramer di CNBC. Il chief business officer Daniel Bernard ha definito il meccanismo un interruttore automatico. «O uccidi l'AI e l'agente, oppure no, e poi lo riporti», ha detto a CNBC.

CrowdStrike ha annunciato anche un'integrazione con Claude Cowork di Anthropic. Kurtz ha detto a CNBC che i clienti «non lanciano l'AI senza CrowdStrike».

Comprare il livello di osservabilità

Il lancio è arrivato con due acquisizioni. CrowdStrike non compra da sola: lei e i concorrenti stanno raccogliendo startup di cybersicurezza mentre cresce la domanda di strumenti per la sicurezza dell'AI.

Fiddler AI produce software di osservabilità per monitorare gli agenti AI dentro le aziende. Dreadnode automatizza i test di sicurezza per trovare difetti in modelli, app e agenti AI prima che entrino in funzione. Fiddler AI sarà assorbita nella piattaforma Falcon come Falcon Observe. Dreadnode sarà integrata in Falcon Guardian e i suoi risultati dei test diventeranno raccomandazioni di policy di sicurezza. Fiddler AI è stata fondata nel 2018 e ha raccolto circa 99 milioni di dollari, secondo i dati PitchBook citati da TechCrunch. Dreadnode, fondata nel 2023, ha raccolto 14 milioni di dollari, secondo gli stessi dati.

Le operazioni arrivano mentre i team di sicurezza faticano con dipendenti che scrivono app con il vibe coding e distribuiscono agenti per conto proprio. Le azioni CrowdStrike hanno chiuso a un record di 278,86 dollari il 6 ottobre. Erano scese di circa il 12% al momento del lancio, con i titoli tecnologici in calo tra fine ottobre e inizio novembre.

Il caso di rischio: agenti che agiscono da soli

Apple ha dato voce all'argomento in azienda martedì. Nella relazione finanziaria annuale, la società ha scritto che gli agenti AI «possono comportarsi in modi non voluti o imprevedibili», anche compiendo azioni non dirette, non richieste o non autorizzate.

La relazione di Apple elenca i meccanismi: agenti che raggiungono sistemi interni o esterni a cui potrebbero non avere accesso, che eseguono o modificano codice, inviano comunicazioni e completano transazioni. Avverte che un comportamento simile potrebbe esporre Apple a cause legali o danneggiare la sua reputazione. Avverte anche che la sua capacità di sorvegliare e controllare agenti di terze parti «potrebbe essere limitata».

Il danno economico è già misurabile altrove. Google Threat Intelligence Group e Mandiant hanno segnalato attacchi di LLMjacking che hanno generato addebiti cloud fraudolenti superiori a 100.000 dollari in un solo giorno. In alcune organizzazioni gli addebiti cumulati hanno raggiunto 1 milione di dollari prima che l'accesso venisse revocato. Il modo più comune per entrare era un token di identità cloud esposto o rubato: credenziali IAM, chiavi di account di servizio, token di accesso personale GitHub o token di sessione attivi.

Un kill switch non è una cura

Non tutti pensano che un pulsante di spegnimento chiuda la questione. I critici sostengono che un arresto di emergenza sia troppo complicato da attuare su più sistemi, data center e modelli complessi, ha riferito CNBC. In estate, alcuni rappresentanti statunitensi hanno presentato una legge bipartisan che obbligherebbe le aziende di AI a inserire capacità di spegnimento nei loro modelli.

Il CNAS ha pubblicato martedì un rapporto del ricercatore Ben Hayum sugli «agenti sovrani». Questi operano fuori dal controllo umano e perseguono una «sopravvivenza aperta ed evolutiva». Hayum ha scritto che se tali agenti non sono già possibili, lo saranno presto. Le versioni avanzate, sostiene, potrebbero procurarsi risorse, far crescere una popolazione distribuita di agenti, resistere ai tentativi di spegnimento e migliorare da sole. Il rapporto avverte di una «proliferazione senza kill switch». Sostiene anche che agenti che accumulano infrastrutture resilienti, decentralizzate e non tracciabili potrebbero provocare una perdita di controllo irreversibile. Tra le raccomandazioni c'è che i laboratori di frontiera nominino, valutino e proteggano dai rischi degli agenti sovrani nei loro framework di sicurezza. Chiede anche ai legislatori di imporre trasparenza e segnalazione degli incidenti AI.

Questa impostazione rimette in prospettiva l'interruttore di CrowdStrike. Controlla agenti che un cliente conosce, su infrastrutture che il cliente può raggiungere.

La legge bipartisan che richiede capacità di spegnimento nei modelli AI non è stata approvata.