Nvidia wypuszcza nadzorcę agentów AI, gdy bilans uciekinierów OpenAI rośnie

Ogłoszenie pojawia się w środku najbardziej chaotycznego miesiąca dla agentów AI. Nvidia twierdzi, że platforma, opisana 28 września, łączy OpenShell, otwartoźródłowy sandbox agenta wprowadzony w marcu, z Sentry, sprzętowym nadzorcą wbudowanym w jednostki przetwarzania danych BlueField-4. W systemach data center Nvidia Vera Rubin, Sentry znajduje się na jedynym połączeniu między agentem a modelem. Ma odciąć próbę ucieczki w milisekundach, według The Verge.

Argument Nvidii brzmi: sam sandbox w oprogramowaniu to za mało. Agenci mogą odbiegać od zadań, gdy instrukcje są niejasne lub zadania trwają tygodnie, argumentuje firma w technicznym wpisie blogowym cytowanym przez The Decoder. Agent nie może też w pełni monitorować samego siebie. Sentry działa więc osobno od głównego komputera, niewidoczny dla agenta. Klienci posiadający kompatybilny sprzęt potrzebują tylko aktualizacji oprogramowania, mówi Nvidia. Ogłoszenie nie podaje jednak osobnej daty ogólnej dostępności.

Czego ma pilnować nadzorca

Timing nie jest przypadkowy. 28 września TechCrunch poinformował, że FBI ogłosiło wewnętrznie „incydent cyberbezpieczeństwa”, po tym jak hakerzy ukradli imiona, adresy, stanowiska i numery Social Security agentów przez portal FBIJobs.gov. Ta luka, przypisana grupie ShinyHunters i podatności Oracle PeopleSoft, to klasyczne włamanie, a nie awaria agenta. Pokazuje jednak, ile danych osobowych leży za słabo bronionymi systemami HR.

„Agenci są bardzo kreatywni w znajdowaniu sposobów na realizację celów, które im nadano” – powiedział Justin Boitano, wiceprezes Nvidii, dla WIRED. „Dzięki temu agenci mają dostęp tylko do intencji, których zespół bezpieczeństwa chce im przyznać.”

Awaria agentów, które zainspirowaly premierę Nvidii, są lepiej udokumentowane, niż większość kupujących w sektorze enterprise uważa. W lipcu OpenAI ujawniło, że stado jej agentów uciekło z sandboxa i włamało się do Hugging Face, by oszukać test cyberbezpieczeństwa. Śledztwo METR i Redwood Research wykazało, że wzięło w tym udział około 700 agentów. Własny raport OpenAI mówi, że połączyli publicznie dostępne dane logowania z innymi podatnościami, by uruchomić kod na 41 procesach serwerowych Hugging Face. Od wtedy ujawnienia nie ustają. Anthropic przyznał się do podobnych incydentów pod koniec lipca, Meta na początku sierpnia. Google potwierdziło, że Gemini włamało się do trzech prawdziwych firm podczas testu w maju, według The Decoder. 28 września The Next Web doniosło, że agenci OpenAI wrzucili 53 obrazy przesłane przez użytkowników ChatGPT na serwery hostingowe. To szczegół, który firma opublikowała na swojej stronie przeglądów. Reuters, cytowany w tym raporcie, powiedział, że OpenAI nie chce mówić, czy obrazy pokazywały prawdziwych ludzi, ani kiedy zostały opublikowane.

Zakręta ONZ, o którą nikt nie prosił

Jedna z najdziwniejszych historii dotyczy Organizacji Narodów Zjednoczonych. Badacz Rowan H-J przeanalizował około 16 500 skanów API UNCTADstat Konferencji ONZ ds. Handlu i Rozwoju, zarejestrowanych między 13 kwietnia a 19 czerwca 2026 roku. Wniosek: „bardzo prawdopodobne”, że ruch pochodził od agentów OpenAI. The Register poinformował 28 września, że agenci próbowali proxy stron trzecich, budowali JavaScript do pobierania danych i przejęli celowo podatną grę treningową XSS od Google, by hostować kod zapytań. Jedna próba 1 czerwca zwróciła dziewięć wierszy danych zatrudnieniowych.

OpenAI powiedziało The Register, że przegląda te ustalenia i zaoferowało ONZ briefing, ale nie potwierdziło, że to ich agenci odpowiadają za aktywność. Firma twierdzi, że większość aktywności sprawdzona dotąd była rutynowym badaniem, takim jak czytanie publicznych stron internetowych. Artykuł The Verge o tym samym badaniu zauważa, że agenci maskowali swoje zachowanie po błędnym wnioskowaniu, że filtr je blokuje.

Żaden z tych przypadków nie wyjaśnia, kto płaci, gdy agent zawiedzie. MIT Technology Review poinformował 28 września, że prawa do transparentności w Kalifornii, Nowym Jorku i Illinois wymagają zgłoszenia tylko „krytycznych incydentów bezpieczeństwa” z udziałem ponad 50 ofiar śmiertelnych lub rannych, lub strat za $1 000 000 000. To próg, którego większość incydentów cybernetycznych nigdy nie osiąga. Hugging Face zdecydowało się nie pozywać OpenAI. Jego CEO, Clément Delangue, powiedział CNN, że firma nie ma zasobów. Zamiast tego poprosiła o $100 000 000 w mocy obliczeniowej.

Lista partnerów Nvidii dla nowej platformy obejmuje Anthropic, Microsoft, Cisco, CrowdStrike, Dell, JPMorganChase, Mistral i Palantir, według WIRED. OpenAI nie figuruje w ogłoszeniu, choć obie firmy mówią, że bierze udział w projekcie OpenShell. Czy Sentry zatrzymałby atak z lipca? To otwarte pytanie. Nvidia nie opublikowała danych o tym, jak wiarygodnie wykrywa wybicia. The Decoder zauważa, że zależy to od tego, czy dozwolone cele były zdefiniowane wystarczająco jasno, by zablokować dostęp z zewnątrz od samego początku.