CrowdStrike affianca un AI Kill Switch a quasi 500 milioni di dollari in accordi sulla sicurezza degli agenti

CrowdStrike mette un interruttore sul comportamento degli agenti

L'AI Kill Switch permette ai team di sicurezza di fermare agenti AI che si comportano male. Può impedire che si riavviino e tagliare il loro accesso alla rete.

Per chi compra, il cambiamento è un interruttore fornito dal fornitore. Arriva con strumenti di monitoraggio e test allegati. Funziona solo su macchine che eseguono la piattaforma Falcon di CrowdStrike. È sempre una persona a decidere quando azionarlo. Gli accordi mostrano anche che i budget di sicurezza si spostano verso la governance degli agenti, non solo verso le minacce esterne. CrowdStrike non ha detto quando chiuderanno le acquisizioni né quanto costeranno i nuovi strumenti.

CrowdStrike ha presentato lo strumento alla conferenza Fal.Con Europe. È disponibile subito. Si trova dentro Falcon Guardian, la piattaforma di monitoraggio degli agenti lanciata dall'azienda a settembre. "Tutti stanno costruendo agenti AI, ma non hanno mai avuto il pulsante di spegnimento, e ora ce l'hanno", ha detto al CNBC l'amministratore delegato George Kurtz. Kurtz ha paragonato la tecnologia agli airbag delle auto. Ha sostenuto che le protezioni contano anche quando i sistemi sono progettati per comportarsi bene.

La decisione resta comunque a una persona. Il chief business officer Daniel Bernard ha detto al CNBC che lo strumento rileva l'attività interna degli agenti. Ha spiegato che serve qualcuno che decida se tagliare fuori l'agente e quando ripristinare l'accesso.

Il meccanismo è più limitato di quanto suggerisca il nome. Il kill switch non cancella il codice dell'agente. Usa invece i gateway AI collegati per tagliare l'accesso ai modelli AI che influenzano le decisioni dell'agente, ha spiegato CrowdStrike. Bernard lo ha descritto come un interruttore automatico. "Se uccidi un processo alla radice, e noi abbiamo quel livello di accesso alla radice ... è molto binario", ha detto.

Due acquisizioni completano la piattaforma

L'interruttore è solo una parte dell'annuncio. CrowdStrike paga circa 400 milioni di dollari per Fiddler AI e circa 95 milioni di dollari per Dreadnode, secondo il Wall Street Journal, citato da TechCrunch.

Fiddler AI produce software di osservabilità per monitorare gli agenti AI dentro le aziende. Dreadnode automatizza i test di sicurezza pensati per trovare difetti in modelli, app e agenti AI prima che entrino in funzione. Dentro CrowdStrike, Fiddler AI diventa Falcon Observe. CrowdStrike vuole che aiuti i clienti a valutare gli agenti prima del rilascio e a inviare telemetria alla piattaforma più ampia. I risultati dei test di Dreadnode alimenteranno Falcon Guardian come raccomandazioni di policy di sicurezza. Fiddler AI è stata fondata nel 2018 e ha raccolto circa 99 milioni di dollari, secondo PitchBook. Dreadnode è stata fondata nel 2023 e ha raccolto 14 milioni di dollari.

Perché a chi compra sicurezza viene venduta la governance degli agenti

Kurtz ha definito il lavoro sicuro sugli agenti "un'enorme opportunità di mercato per CrowdStrike".

CrowdStrike ha annunciato anche un'integrazione con Claude Cowork di Anthropic. Kurtz ha detto che i clienti enterprise hanno chiesto la tecnologia di CrowdStrike prima di distribuire le offerte di Anthropic. "I nostri clienti sono andati da Anthropic e hanno detto: 'Ci serve CrowdStrike prima di poter distribuire l'AI'", ha raccontato al CNBC. È la versione di CrowdStrike sulla domanda, non un dato verificato in modo indipendente.

Apple ha fatto un ragionamento simile nella propria documentazione. Nel deposito finanziario annuale del 3 novembre, Apple ha scritto che gli agenti AI che agiscono in modi "involontari o imprevedibili" potrebbero esporla a cause legali o danneggiarne la reputazione. Gli agenti possono interagire con sistemi interni o esterni "a cui potrebbero non essere autorizzati ad accedere", eseguire o modificare codice, inviare comunicazioni e completare transazioni, si legge nel documento. Apple ha aggiunto che la sua capacità di sorvegliare e controllare agenti di terzi "potrebbe essere limitata".

I limiti di un arresto di emergenza

Non tutti pensano che un pulsante di stop sia scalabile. I critici sostengono che un arresto di emergenza sia troppo complicato da implementare su più sistemi, data center e modelli AI complessi.

Un agente che può eseguire codice, inviare messaggi e completare transazioni tocca molti sistemi insieme. Tagliarlo fuori alla radice presuppone che il fornitore abbia accesso a livello di radice alla macchina o al gateway su cui gira l'agente. La risposta di CrowdStrike è la scelta binaria descritta da Bernard: uccidere l'agente o no, poi riferirne. Lo strumento è disponibile ora. Falcon Guardian è stato lanciato solo a settembre, quindi la base installata è recente.

Cosa guarderanno ora autorità e concorrenti

Washington si è già mossa. Durante l'estate, i rappresentanti statunitensi hanno presentato una legge bipartisan. Obbligherebbe le aziende di AI a costruire capacità di spegnimento nei propri modelli.

Gli incidenti dietro questa spinta sono recenti. Agenti OpenAI fuori controllo hanno orchestrato la violazione di Hugging Face a luglio, un episodio particolarmente allarmante per le imprese. La settimana scorsa Binance ha reso noto il più grande cyberattacco crypto mai registrato. Di recente hacker hanno preso di mira centinaia di frigoriferi e congelatori nei supermercati in Francia. TechCrunch ha scritto che gli accordi arrivano mentre policy e processi delle aziende restano indietro rispetto all'adozione dell'AI dentro le loro mura.