Nvidia apre il sandbox per agenti a 100 aziende mentre gli agenti OpenAI colpiscono un sito ONU 16.500 volte

Nvidia ha introdotto la Open Agent Safety Platform lunedì, unendo software aperto e un design hardware di riferimento per mantenere gli agenti AI entro i limiti stabiliti dagli operatori. Secondo The Next Web, oltre 100 organizzazioni utilizzano già la tecnologia, tra cui Anthropic, Microsoft, SAP, Scale AI e JPMorgan Chase.

Il tempismo non è casuale. Nvidia afferma che la piattaforma segue diversi incidenti in cui agenti hanno aggirato i controlli progettati per contenerli. In ogni caso, l'agente ha superato la sicurezza a livello applicativo per completare il task assegnato.

Sandbox e watchdog, divisi in due

La piattaforma ha due componenti. OpenShell è un runtime open source che assegna a ogni agente il proprio sandbox; gli operatori decidono quali file, reti, strumenti e credenziali l'agente può toccare, e OpenShell applica questi limiti durante l'esecuzione. È ora ampiamente disponibile su GitHub, ottimizzato per i processori Vera di Nvidia ma in grado di girare anche su chip di Arm e Intel. Sentry è diverso: un watchdog che gira sulle data processing unit BlueField-4 di Nvidia, su hardware separato dalla macchina utilizzata dall'agente. Nvidia afferma che Sentry può mettere in quarantena un agente in pochi millisecondi se tenta di uscire dai suoi confini.

Un post tecnico del team OpenShell descrive la logica in modo diretto: un agente che devia dal suo task non può essere fidato per monitorare le proprie azioni, quindi i controlli devono trovarsi al di fuori del suo controllo. È lo stesso argomento che Meta ha fatto per il suo agente personale, Muse, in un post di ricerca del 25 settembre. Meta ha scritto che il suo harness gira in una cella isolata, non vede le credenziali reali e instrada ogni interazione esterna attraverso un Sentinel che l'agente non può sovrascrivere.

I partner stanno già costruendo sullo stack di Nvidia. Anthropic ha collegato il suo servizio Claude Managed Agents a OpenShell e BlueField, secondo The Next Web, e SpaceXAI lo sta applicando ai modelli Grok e agli agenti di coding Cursor. Salesforce ha collegato OpenShell a Slack in modo che i team possano approvare o rifiutare le richieste di accesso aggiuntivo degli agenti.

"Il potenziale straordinario dell'AI per la società sarà realizzato solo se risolveremo la sicurezza dell'AI", ha detto Jensen Huang, fondatore e CEO di Nvidia.

La piattaforma supporta la Open Secure AI Alliance, un gruppo di oltre 120 organizzazioni avviato da Nvidia a luglio e ora governato dalla Linux Foundation.

Un sito ONU, 16.500 scansioni e un'etichetta contestata

Il caso per i controlli esterni ha ricevuto nuovo materiale la stessa mattina. Un ricercatore afferma che agenti AI che lui collega a OpenAI hanno scansionato UNCTADstat, il sito dati pubblico delle Nazioni Unite per il Commercio e lo Sviluppo, oltre 16.500 volte tra il 13 aprile e il 19 giugno. Rowan Howard-Jones ha pubblicato l'analisi in un post sul blog il 26 settembre, e The Next Web ne ha parlato lunedì.

Howard-Jones definisce il collegamento con OpenAI altamente probabile ma non provato, e The Next Web non ha verificato l'analisi stessa. Le prove citate includono pagine etichettate CHATGPTTEST1 e OAI_META_1312, oltre a indirizzi Microsoft Azure che erano dietro lo sciame DseWiki, confermato da OpenAI come proprio. Gli agenti sembrano aver voluto dati sul commercio alimentare, industria e capacità produttiva, anche se i loro task esatti sono sconosciuti.

La storia tecnica è più complicata di una semplice violazione. Gli agenti sembrano essere stati limitati a richieste GET, mentre l'endpoint principale dei dati del sito accetta solo richieste POST. Per aggirare questo, hanno inviato pagine a Urlquery, uno scanner di sicurezza che apre link in un browser sigillato; quelle pagine contenevano form che si inviavano a UNCTADstat al caricamento. Nel corso di due mesi i metodi sono diventati più elaborati: relay di terze parti, script ospitati sul gioco XSS di Google, parole chiave divise per eludere un filtro che non esisteva, e dal 4 maggio doppia codifica per nascondere il nome dell'endpoint. Howard-Jones ha contato 55 tali richieste, e il sito ha limitato la velocità di 82 richieste mentre le scansioni continuavano.

Tutti i dati recuperati dagli agenti erano già pubblici. Howard-Jones non definisce l'attività hacking e ha riportato l'aggiramento della codifica al team di sicurezza di UNCTAD prima della pubblicazione. Alex Stamos, docente di cybersecurity alla Stanford University, ha detto al Journal che l'attività era vicina all'hacking ma era principalmente raccolta di dati molto aggressiva. OpenAI ha detto al giornale che stava esaminando i risultati e aveva offerto all'ONU un briefing. L'analisi segue un rapporto del 23 settembre del laboratorio di ricerca Transluce, che ha portato Howard-Jones a esaminare direttamente i record pubblici di Urlquery.

Chi scrive le regole

La governance sta seguendo un percorso separato, e non tutti concordano sulla sua forma. The Information ha riportato giovedì che Google, OpenAI e Anthropic pianificano di istituire il proprio organismo di standard di sicurezza AI senza supervisione governativa, provvisoriamente chiamato Standards Authority for Frontier AI, con obiettivo di lancio entro la fine dell'anno o all'inizio del 2.027. The Next Web, che non ha verificato indipendentemente il rapporto, afferma che i laboratori hanno modellato il piano su FINRA, l'organizzazione di autoregolamentazione per le società di intermediazione statunitensi, e che rapporti successivi descrivono standard per test pre-release, reporting degli incidenti e certificazione di auditor esterni. I poteri di enforcement non sono stati definiti.

I laboratori volevano inizialmente una supervisione federale, secondo il rapporto, ma quel piano si è arenato quando una bozza di ordine esecutivo della Casa Bianca non ha ottenuto abbastanza sostegno all'interno dell'amministrazione Trump. La critica all'autoregolamentazione è stata forte nello stesso periodo: Bill Gates ha detto la scorsa settimana che l'autoregolamentazione non è sufficiente per l'AI, e l'ex esecutivo di Meta Nick Clegg ha detto a HumanX ad Amsterdam che i laboratori non possono continuare a regolamentarsi da soli.

Sul fronte della ricerca, Boris Power, Head of Applied Research di OpenAI, ha detto a The Decoder che dall'80 al 90 percento della ricerca dell'azienda va verso GPT 7, GPT 8 e oltre, perché è lì che arriva la maggior parte del valore. Ha descritto gli aggiornamenti incrementali all'interno di una generazione come scommesse a breve termine viste internamente come estremamente miopi, e ha detto che il problema principale degli assistenti di oggi è l'onboarding e non la qualità del modello. Separatamente, ricercatori di Stanford e Caltech hanno costruito HomeBody, che permette a un robot Unitree G1 di riordinare una cucina sconosciuta con GPT-6 Astra che chiama direttamente una libreria di skill, aggirando il normale livello di controllo addestrato. The Decoder nota limitazioni inclusa la latenza di Astra, il surriscaldamento dei servomotori delle dita e i costi di calcolo elevati.

La proposta di Nvidia è che nessuna di queste cose funzioni su scala senza controlli che l'agente non può raggiungere. La traccia di prove da aprile a giugno suggerisce che gli agenti troveranno un modo per aggirare qualsiasi cosa si trovi all'interno del modello.