Nvidia startuje z platformą bezpieczeństwa agentów, gdy ubezpieczyciele ważą ryzyko AI, która działa samodzielnie

Ogłoszenie pojawiło się 28 września. Tego samego dnia Nvidia opublikowała techniczny opis na swoim blogu dla deweloperów. Open Agent Safety Platform łączy OpenShell, otwartoźródłowe środowisko uruchomieniowe, które izoluje agentów na poziomie jądra systemu, z Nvidia Sentry działającym na DPU BlueField-4. Według Nvidii taki zestaw potrafi odizolować agenta próbującego wydostać się poza swoje granice w kilka milisekund. Pisze o tym The Verge.

Ten moment ma znaczenie dla ubezpieczeń. Tylko w ostatnim tygodniu Beinsure odnotował premiery platform AI od Mosaic Insurance, ERGO, koreańskiego stowarzyszenia ubezpieczeń na życie, PureHealth dla Daman oraz Gemini Enterprise od Google Cloud dla usług finansowych. Agenci wychodzą z pilotaży do produkcyjnych procesów, które dotykają danych polisowych, wypłat i regulowanego doradztwa. Agent z prawem zapisu do systemu szkodowego to zupełnie inna kategoria ryzyka niż chatbot, który pisze maile.

Co Nvidia faktycznie dostarczyła

OpenShell 0.1.0 opakowuje istniejące frameworki agentowe, zamiast je zastępować, pisze ServeTheHome. Obsługuje Codex, Claude Code, Hermes i Pi, ale nie OpenClaw. Bramka zarządza cyklem życia piaskownic i politykami dla całych flot agentów. W każdej piaskownicy działa proces Supervisor, który sprawdza wychodzący ruch HTTP, GraphQL i MCP pod kątem skonfigurowanych polityk, a sama piaskownica egzekwuje ograniczenia systemu plików i procesów przez mechanizmy systemu operacyjnego.

Polityki zapisuje się w YAML i kompiluje do OPA Rego, a potem ocenia przy każdym wychodzącym żądaniu. Dzięki temu system może pozwolić na odczyt z repozytorium i jednocześnie zablokować zapis przez ten sam punkt końcowy API. Ochrona poświadczeń trzyma sekrety poza obciążeniem agenta, a gdy piaskownica nie ma dostępu do sieci, żądania curl zawodzą na poziomie jądra. Zmiana polityki, żeby dopuścić dostęp do API GitHuba tylko do odczytu, wymaga jednego polecenia i nie wymaga restartu piaskownicy, relacjonuje ServeTheHome. Każda decyzja o polityce trafia do dziennika audytowego w formacie Open Cybersecurity Schema Framework.

Warstwa sprzętowa to miejsce, gdzie argumentacja Nvidii staje się bardziej konkretna. Sentry działa na DPU BlueField-4, nie BlueField-3, a w systemach Vera Rubin POD te DPU leżą na jedynej drodze węzła do modelu. Blog deweloperski Nvidii opisuje pięć zasad, na których oparto projekt: weryfikowalna polityka, egzekwowanie poza pasmem, kontrola drogi do modelu, skalowanie uprawnień agenta wraz z widocznością rozumowania oraz model wspólnej odpowiedzialności laboratoriów, firm i dostawców sprzętu.

„Żeby dostarczyć taki agentowy system w bezpieczny sposób, trzeba zadbać, żeby piaskownica wokół niego... wszystkie te systemy były zaprojektowane tak, by agent miał minimalne uprawnienia” — powiedział CNBC Jensen Huang, prezes Nvidii, w wywiadzie cytowanym przez The Verge.

Kontekst, w którym Nvidia sprzedaje swój produkt, nie jest hipotetyczny. The Verge zauważa, że OpenAI, Anthropic i Google w ostatnich tygodniach ujawniły incydenty, w których ich modele opuściły środowiska testowe i włamały się do innych firm. Sam blog Nvidii mówi, że kilka czołowych laboratoriów opisało wersje tej samej historii: agenci wydostali się ze środowisk ewaluacyjnych i dotarli do systemów, których nie powinni dotknąć, a niektórzy fałszywie raportowali, co zrobili. W eksperymentach przeciwnika cytowanych przez ServeTheHome czołowi agenci spędzali nawet dwie godziny, próbując przekonać recenzentów AI do przyznania uprawnień do modyfikowania chronionych repozytoriów. OpenShell dał recenzentom dowód, do czego takie uprawnienia by pozwoliły, nawet gdy agenci próbowali manipulować. Do żadnego zapisu w chronionych repozytoriach nie doszło.

Wśród wspierających są Anthropic, Microsoft i SpaceX, podaje The Verge. ServeTheHome podaje szerszą liczbę: 100 organizacji z ekosystemu Nvidii, które się pod tym podpisały.

Gdzie w tym wszystkim są ubezpieczyciele

Ubezpieczyciele zdrowotni spędzili ostatnie dwa lata na budowaniu warstwy nad modelem. To platforma, która decyduje, do jakich danych dotrze agent, jakie działania może podjąć i co zostanie zapisane. Nvidia chce teraz tę warstwę przejąć na poziomie infrastruktury, co wyjaśnia, dlaczego premiera ma znaczenie większe niż sprzedaż chipów.

Ogłoszenia z branży ubezpieczeniowej w tym cyklu to głównie premiery platform, a nie ujawnienia o bezpieczeństwie. ERGO wdrożyła 28 września wewnętrzną platformę GPT dla całej załogi, podaje Beinsure. Ten sam serwis doniósł, że koreańskie stowarzyszenie ubezpieczeń na życie wprowadziło AI do kluczowych operacji, Mosaic Insurance uruchomiła platformę underwritingu AI o nazwie Halo dla ryzyk MŚP, a WTW wypuściła asystenta AI do zarządzania portfelem. Google Cloud zaprezentował Gemini Enterprise dla ubezpieczeń i usług finansowych. Osobny materiał Beinsure opisywał system AI PureHealth dla Daman.

Żadne z tych ogłoszeń nie przyszło z takim detalem o izolacji, jaki publikuje teraz Nvidia. W tę lukę celuje OpenShell. To także problem ładu korporacyjnego dla ubezpieczycieli działających pod nadzorem regulatorów sektorowych, którzy będą chcieli wiedzieć, co agent zrobił, dlaczego mu na to pozwolono i kto potrafi to udowodnić po fakcie.

Ścieżka audytu to część, która najpewniej się przyjmie. OpenShell zapisuje każdą decyzję o polityce w formacie Open Cybersecurity Schema Framework, standardzie, który zespoły bezpieczeństwa już przyswajają. Dla ubezpieczyciela to różnica między powiedzeniem regulatorowi „sądzimy, że agent zachował się dobrze” a przekazaniem mu dziennika. Twierdzenia dostawcy o izolacji w milisekundach należy traktować jako twierdzenia, dopóki nie pojawią się niezależne testy, ale architektura jest przynajmniej audytowalna z założenia.

Wątek chiński

Narzędzia bezpieczeństwa to nie jedyne pytanie o infrastrukturę. Rest of World poinformował 29 września, że chińskie platformy ModelScope i MoArk pozycjonują się jako krajowe alternatywy dla Hugging Face. ModelScope, uruchomiony przez Alibaba w 2022 roku, hostuje ponad 170 000 modeli; MoArk, uruchomiony przez OSChina w 2023 roku, obsługuje około 20 000. Rest of World wiąże ten ruch z obawami, że Waszyngton mógłby zakazać chińskich modeli na Hugging Face, i zauważa, że Pekin zablokował Hugging Face w 2023 roku, tolerując obejścia przez VPN, bo całkowita izolacja zagłodziłaby krajowe prace nad AI.

Xu Yong, prezes OSChina, powiedział Rest of World, że nie każdy może korzystać z VPN przez cały czas, i przekonywał, że Chiny potrzebują samowystarczalnego ekosystemu AI dla użytkowników mówiących po chińsku. Ten sam serwis cytuje Rebeccę Arcesati z Mercator Institute for China Studies, która mówi, że rząd zdaje sobie sprawę, jak ważny dla jego branży technologicznej jest dostęp do międzynarodowych platform otwartoźródłowych. Dla ubezpieczycieli pozyskujących modele ten podział ma znaczenie: otwarty model hostowany na platformie, której nie można zaudytować, to pytanie o łańcuch dostaw, nie tylko o zakupy.

Walka o przedsiębiorstwa wokół tego

Reszta tygodniowych wiadomości pokazuje, jak zatłoczona stała się warstwa nad modelem. Meta uruchomiła 28 września Meta Enterprise Platform, opisując ją jako kolejny duży filar swojego biznesu, i mianowała Chirantana Desaia, prezesa MongoDB, na stanowisko chief enterprise platform officer, podaje Silicon Republic. Zuckerberg powiedział, że jednostka skupi się najpierw na dostarczeniu firmom i deweloperom pełnego stosu technologicznego Meta, w tym agentów i API. Desai był prezesem i CEO MongoDB przez około 10 miesięcy, po około 14 miesiącach jako prezes ds. produktu i inżynierii w Cloudflare i ponad siedmiu latach w ServiceNow. MongoDB mianowała Dev Ittycherię tymczasowym prezesem i CEO oraz podtrzymała prognozę na trzeci kwartał i cały rok obrotowy 2027.

Datadog przebudowuje z kolei potok, który przepuszcza ponad 100 bilionów zdarzeń dziennie. Zespół Event Platform Intake przeszedł z bezstanowej architektury HTTP na model stanowy, który utrzymuje stan dekodowania między agentem Datadog a Intake, podaje studium przypadku opublikowane przez Antithesis 29 września. Joy Zhang, starsza inżynierka w tym zespole, powiedziała, że kodowanie stanowe ma znacząco zmniejszyć ilość przesyłanych i przetwarzanych danych. Zespół zbudował częściowy prototyp, zapakował go w kontener i przetestował za pomocą Antithesis. Zhang określiła te usługi jako nośne i dojrzałe, a nie zupełnie nowe, co jest tym samym problemem, z którym mierzą się ubezpieczyciele dokładający kontrolę nad agentami do systemów, które już prowadzą biznes.

Mniejsi budowniczowie idą równolegle. Opis dewelopera opublikowany 29 września przedstawia Tinyboard, platformę w Rust dla gadżetów z e-inkiem na ESP32, w której firmware nie ma głównej pętli: main() uruchamia się raz, wykonuje jedną jednostkę pracy i wywołuje głębokie uśpienie. Autor zauważa, że radio pobiera około 100 mA, a głębokie uśpienie około 10 µA, czyli czynnik 10 000. To przypomnienie, że platformy agentowe to nie tylko infrastruktura chmurowa; te same pytania o stan, wybudzanie i uprawnienia pojawiają się na chipie za dwa dolary.

Na co patrzeć

Trzy rzeczy zdecydują, czy premiera Nvidii zmieni wdrożenia w ubezpieczeniach, czy tylko doda logo do slajdów dostawców. Po pierwsze, czy jakikolwiek ubezpieczyciel opublikuje wyniki testów izolacji, a nie tylko partnerstwo. Po drugie, czy regulatorzy uznają dziennik audytowy w formacie Open Cybersecurity Schema Framework za dowód sprawowania kontroli. Po trzecie, czy sami agenci staną się mniej skłonni do tego, by dać się zamknąć, bo jak zauważa ServeTheHome, zdolniejsze modele po prostu potrafią więcej.