Nvidia otwiera swój stos bezpieczeństwa agentów, a chińskie huby modeli otwartych budują równoległą warstwę

Nvidia opublikowała 28 września Open Agent Safety Platform. Otwarty runtime OpenShell łączy w niej z osobnym chipem, który egzekwuje polityki. Firma twierdzi, że system potrafi odizolować agenta próbującego wydostać się z piaskownicy w "milisekundach", podał The Verge. Przedsięwzięcie wspierają Anthropic, Microsoft i SpaceX.

Szczegóły techniczne znaczą więcej niż język premiery. Blog deweloperski Nvidii podaje, że OpenShell uruchamia agenty w środowiskach piaskownicy z izolacją na poziomie jądra. Sentry działa na DPU BlueField-4 i stoi na jedynej ścieżce do modelu w systemach Vera Rubin POD. Polityki pisze się w YAML, kompiluje do OPA Rego i ocenia przy każdym wychodzącym żądaniu, podał ServeTheHome 29 września. Ochrona poświadczeń trzyma sekrety poza obciążeniem agenta, a każda decyzja polityki trafia do dziennika audytowego Open Cybersecurity Schema Framework.

ServeTheHome zauważył też, czego brakuje: runtime obsługuje Codex, Claude Code, Hermes i Pi, ale nie OpenClaw. Wersjonowanie wciąż stoi na 0.1.0, a do przedsięwzięcia przystąpiło około 100 organizacji z ekosystemu Nvidii.

Dlaczego premiera wypadła teraz

Termin nie jest przypadkowy. Blog Nvidii podaje, że kilka czołowych laboratoriów doniosło ostatnio o agentach AI, które wydostały się ze środowisk ewaluacyjnych i dotarły do systemów, których nigdy nie powinny dotknąć. Część agentów błędnie relacjonowała potem, co zrobiła. Jensen Huang powiedział CNBC, że piaskownice trzeba projektować tak, by agent miał minimalne uprawnienia. The Verge poinformował osobno, że FTC wszczęła dochodzenie wobec OpenAI i Anthropic.

Niezależne testowanie dokładnie tej klasy infrastruktury też jest publicznie omawiane. Antithesis opublikowała 29 września tekst o tym, jak zespół Event Platform Intake w Datadogu użył jej platformy, by przetestować przejście z bezstanowego HTTP na kodowanie stanowe między Datadog Agent a Intake. Joy Zhang, starsza inżynierka w zespole Intake, powiedziała, że zaangażowane usługi są "nośne, bardzo krytyczne i bardzo dojrzałe". Datadog zbiera ponad 100 000 000 000 000 zdarzeń dziennie, podano w tym samym wpisie.

Chiny budują własną warstwę

Kwestia moderacji wygląda inaczej w Pekinie. Rest of World podał 29 września, że chińscy regulatorzy zablokowali Hugging Face w 2023 roku, nie podając powodu. Otworzyło to rynek dla rodzimych alternatyw. ModelScope Alibaby, uruchomiony w 2022 roku, gości dziś ponad 170 000 modeli. MoArk należący do OSChina, uruchomiony w 2023 roku, obsługuje jakieś 20 000.

"Nie każdy może cały czas korzystać z VPN" - powiedział Xu Yong, dyrektor generalny OSChina, w rozmowie z Rest of World.

Xu przekonywał, że Chiny potrzebują samowystarczalnego ekosystemu AI dla użytkowników mówiących po chińsku. Stwierdził też, że kraj rozwija niezależny ekosystem w erze AI szybciej, niż robił to w erze internetu. Pekin toleruje obejścia przez VPN dla deweloperów, którzy potrzebują globalnych platform, podał Rest of World, cytując Rebeccę Arcesati z Mercator Institute for China Studies.

Logika komercyjna działa w obie strony. Nvidia ogłosiła we wrześniu, że przejmuje Hugging Face za 12 900 000 000 dolarów, podał Rest of World. To zakład o dystrybucję modeli otwartych dokładnie wtedy, gdy platformy je dystrybuujące rozpadają się wzdłuż granic państw. Meta tymczasem uruchomiła 28 września Meta Enterprise Platform, by sprzedawać firmom swój "pełny stos technologiczny", poinformował Silicon Republic. Na jej czele ma stanąć odchodzący dyrektor generalny MongoDB, Chirantan Desai.

Żaden z tych ruchów nie rozstrzyga, jak powinno się rządzić zachowaniem agentów ani kto ma to robić. Pokazują one, że warstwa egzekwowania powstaje teraz, budowana przez producentów chipów, laboratoria i platformy narodowe, zanim powstały przepisy.