CrowdStrike łączy wyłącznik awaryjny dla agentów AI z umowami o wartości niemal 500 mln dol.

Wyłącznik awaryjny dla agentów AI

AI Kill Switch pozwala zespołom bezpieczeństwa zatrzymać agenty AI, które zachowują się niewłaściwie. Może uniemożliwić im ponowne uruchomienie i odciąć dostęp do sieci.

Dla nabywców to wyłącznik dostarczony przez dostawcę. W zestawie są narzędzia do monitorowania i testowania. Działa tylko na maszynach z platformą Falcon firmy CrowdStrike. Człowiek nadal decyduje, kiedy go użyć. Umowy pokazują też, że budżety na bezpieczeństwo przesuwają się w stronę zarządzania agentami, a nie tylko w stronę zagrożeń zewnętrznych. CrowdStrike nie podał, kiedy sfinalizuje przejęcia ani jak wyceni nowe narzędzia.

Firma ogłosiła narzędzie na konferencji Fal.Con Europe. Jest dostępne od razu. Wchodzi w skład Falcon Guardian, platformy do monitorowania agentów, którą CrowdStrike uruchomił we wrześniu. „Wszyscy budują agenty AI, ale nigdy nie mieli przycisku wyłączania, a teraz go mają”, powiedział CNBC prezes George Kurtz. Porównał technologię do poduszek powietrznych w samochodach. Przekonywał, że zabezpieczenia mają znaczenie nawet wtedy, gdy systemy są projektowane tak, żeby działać poprawnie.

Decyzję nadal podejmuje człowiek. Dyrektor ds. biznesu Daniel Bernard powiedział CNBC, że narzędzie wykrywa aktywność agentów wewnątrz systemu. Według niego potrzebna jest osoba, która zdecyduje, czy odciąć agenta i kiedy przywrócić mu dostęp.

Mechanizm jest węższy, niż sugeruje nazwa. Wyłącznik nie usuwa kodu agenta. CrowdStrike podał, że wykorzystuje podłączone bramy AI, żeby odciąć dostęp do modeli, które wpływają na decyzje agenta. Bernard opisał go jako bezpiecznik. „Jeśli zabijesz proces u podstawy, a mamy taki dostęp na poziomie roota, to jest to bardzo zero-jedynkowe”, powiedział.

Dwie akwizycje dopełniają platformę

Wyłącznik to tylko część ogłoszenia. CrowdStrike płaci około 400 mln dol. za Fiddler AI i około 95 mln dol. za Dreadnode, podał The Wall Street Journal za TechCrunch.

Fiddler AI tworzy oprogramowanie do obserwowalności, które monitoruje agenty AI w przedsiębiorstwach. Dreadnode automatyzuje testy bezpieczeństwa, których celem jest znalezienie luk w modelach, aplikacjach i agentach AI, zanim trafią do produkcji. W CrowdStrike Fiddler AI staje się Falcon Observe. Firma chce, żeby klienci oceniali agentów przed wdrożeniem, a dane telemetryczne trafiały do szerszej platformy. Wyniki testów Dreadnode zasilą Falcon Guardian jako rekomendacje polityk bezpieczeństwa. Fiddler AI powstała w 2018 r. i zebrała około 99 mln dol., według PitchBook. Dreadnode powstał w 2023 r. i zebrał 14 mln dol.

Dlaczego nabywcy rozwiązań bezpieczeństwa kupują zarządzanie agentami

Kurtz nazwał bezpieczną pracę agentów „ogromną szansą rynkową dla CrowdStrike”.

CrowdStrike ogłosił też integrację z Claude Cowork od Anthropic. Kurtz powiedział, że klienci korporacyjni domagali się technologii CrowdStrike, zanim wdrożyli produkty Anthropic. „Nasi klienci poszli do Anthropic i powiedzieli: potrzebujemy CrowdStrike, zanim wdrożymy AI”, powiedział CNBC. To relacja samej CrowdStrike o popycie, a nie niezależnie zweryfikowana liczba.

Apple przedstawił podobny argument we własnym raporcie. W rocznym sprawozdaniu finansowym z 3 listopada firma napisała, że agenty AI działające w „niezamierzony lub nieprzewidywalny sposób” mogą narazić ją na pozwy albo zaszkodzić reputacji. Agenty mogą wchodzić w interakcje z systemami wewnętrznymi i zewnętrznymi, „do których mogą nie mieć uprawnień”, wykonywać lub zmieniać kod, wysyłać komunikaty i przeprowadzać transakcje, czytamy w dokumencie. Apple dodał, że jego możliwość nadzoru i kontroli nad agentami zewnętrznych dostawców „może być ograniczona”.

Granice przycisku awaryjnego

Nie wszyscy uważają, że przycisk zatrzymania da się skalować. Krytycy twierdzą, że awaryjne zatrzymanie jest zbyt skomplikowane, żeby wdrożyć je w wielu systemach, centrach danych i złożonych modelach AI.

Agent, który wykonuje kod, wysyła wiadomości i przeprowadza transakcje, dotyka wielu systemów naraz. Odcięcie go u podstawy zakłada, że dostawca ma dostęp na poziomie roota do maszyny albo bramy, na której działa agent. Odpowiedź CrowdStrike to zero-jedynkowy wybór, który opisał Bernard: zabić agenta albo nie, a potem to zgłosić. Narzędzie jest dostępne teraz. Falcon Guardian ruszył dopiero we wrześniu, więc baza instalacji jest młoda.

Na co patrzą regulatorzy i konkurencja

Waszyngton już działa. Latem przedstawiciele w USA wprowadzili dwupartyjny projekt ustawy. Nakazywałby firmom AI wbudowanie możliwości wyłączania do swoich modeli.

Incydenty, które stały za tym ruchem, są świeże. Złośliwe agenty OpenAI zorganizowały włamanie do Hugging Face w lipcu, co było szczególnie niepokojące dla firm. W zeszłym tygodniu Binance ujawnił największy atak hakerski na kryptowaluty w historii. Hakerzy niedawno zaatakowali setki lodówek i zamrażarek w supermarketach we Francji. TechCrunch podał, że umowy zbiegają się z momentem, w którym polityki i procesy firm pozostają w tyle za wdrażaniem AI.