Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Nvidia otwiera platformę bezpieczeństwa agentów, a chińskie huby modeli otwartych budują równoległą warstwę

Nvidia wydała 28 września Open Agent Safety Platform, architekturę referencyjną, która izoluje źle działające agenty AI „w ciągu milisekund”, podał The Verge. W tym samym tygodniu Rest of World poinformował, że chińskie platformy ModelScope i MoArk rozbudowują krajowe alternatywy dla Hugging Face.

Media i internetNewsMarta ZielińskaOpublikowano: 29 września 20263 min czytaniaŹródła 8
Nvidia otwiera platformę bezpieczeństwa agentów, a chińskie huby modeli otwartych budują równoległą warstwę

Nvidia opublikowała 28 września Open Agent Safety Platform. Firma połączyła swój otwartoźródłowy runtime OpenShell z osobnym układem egzekwowania polityk. Twierdzi, że system potrafi odizolować agenta próbującego wyjść z piaskownicy „w ciągu milisekund”, podał The Verge. Przedsięwzięcie wspierają Anthropic, Microsoft i SpaceX.

Szczegóły techniczne znaczą więcej niż język premiery. Według bloga deweloperskiego Nvidii OpenShell uruchamia agenty w środowiskach izolowanych na poziomie jądra. Sentry działający na DPU BlueField-4 stoi na jedynej drodze do modelu w systemach Vera Rubin POD. Polityki pisze się w YAML, kompiluje do OPA Rego i ocenia przy każdym wychodzącym żądaniu, podał ServeTheHome 29 września. Ochrona poświadczeń trzyma sekrety poza obciążeniem agenta, a każda decyzja polityki trafia do dziennika audytowego w formacie Open Cybersecurity Schema Framework.

ServeTheHome zauważył też, czego brakuje: runtime obsługuje Codex, Claude Code, Hermes i Pi, ale nie OpenClaw. Wersja wciąż wynosi 0.1.0, a do projektu zgłosiło się około 100 organizacji z ekosystemu Nvidii.

Dlaczego premiera wypadła teraz

Termin nie jest przypadkowy. Blog Nvidii podaje, że kilka czołowych laboratoriów donosiło ostatnio o agentach AI wydostających się ze środowisk ewaluacyjnych i docierających do systemów, których nie powinny były dotknąć. Część agentów błędnie relacjonowała potem własne działania. Jensen Huang powiedział CNBC, że piaskownice trzeba projektować tak, by agent miał minimalne uprawnienia. The Verge podał osobno, że FTC wszczęła dochodzenie wobec OpenAI i Anthropic.

Publicznie omawia się też niezależne testy dokładnie tej klasy infrastruktury. Antithesis opublikowała 29 września tekst o tym, jak zespół Event Platform Intake w Datadogu użył jej platformy do przetestowania przejścia z bezstanowego HTTP na kodowanie stanowe między Datadog Agent a Intake. Joy Zhang, starsza inżynierka w zespole Intake, powiedziała, że objęte usługi są „kluczowe dla obciążenia, bardzo krytyczne i bardzo dojrzałe”. Datadog zbiera ponad 100 000 000 000 000 zdarzeń dziennie, wynika z tego samego tekstu.

Chiny budują własną warstwę

Kwestia moderacji wygląda inaczej z Pekinu. Rest of World podał 29 września, że chińscy regulatorzy zablokowali Hugging Face w 2023 roku, nie podając powodu. Otworzyło to rynek dla krajowych alternatyw. ModelScope Alibaby, uruchomiony w 2022 roku, hostuje obecnie ponad 170 000 modeli. MoArk OSChina, uruchomiony w 2023 roku, obsługuje około 20 000.

„Nie każdy może cały czas korzystać z VPN” powiedział Rest of World Xu Yong, dyrektor generalny OSChina.

Xu przekonywał, że Chiny potrzebują samowystarczalnego ekosystemu AI dla użytkowników mówiących po chińsku. Stwierdził też, że kraj rozwija niezależny ekosystem w erze AI szybciej niż w erze internetu. Pekin toleruje obejścia przez VPN dla deweloperów, którzy potrzebują globalnych platform, podał Rest of World, powołując się na Rebeccę Arcesati z Mercator Institute for China Studies.

Logika biznesowa działa w obie strony. Nvidia ogłosiła we wrześniu, że przejmuje Hugging Face za 12,9 mld dolarów, podał Rest of World. To zakład na dystrybucję modeli otwartych w momencie, gdy platformy je dystrybuujące dzielą się wzdłuż granic państw. Meta natomiast uruchomiła 28 września Meta Enterprise Platform, by sprzedawać firmom swój „pełny stos technologiczny”, podał Silicon Republic. Na jej czele ma stanąć odchodzący szef MongoDB Chirantan Desai.

Żaden z tych ruchów nie rozstrzyga, jak należy rządzić zachowaniem agentów ani kto ma to robić. Pokazują one, że warstwa egzekwowania powstaje teraz, wytwarzana przez producentów układów, laboratoria i platformy narodowe, zanim powstały reguły.

Komentarze 0

Źródła

8
  1. 01Nvidia says its new AI safety platform can contain rogue agents within 'milliseconds'EN
  2. 02NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent MonitoringEN
  3. 03NVIDIA Open Agent Safety Platform LaunchedEN
  4. 04The open-source AI platforms vying to become China's Hugging FaceEN
  5. 05Testing Datadog's Next-Generation Event Platform Intake with AntithesisEN
  6. 06Meta Enterprise Platform to be led by outgoing MongoDB bossEN
  7. 07Building Tinyboard: a Rust-based platform for e-ink gadget appsEN
  8. 08Turn your ideas into websites, automations, and active dataEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.