Nvidia apre la sua infrastruttura di sicurezza per gli agenti, mentre in Cina nasce un livello parallelo

Nvidia ha pubblicato l'Open Agent Safety Platform il 28 settembre. Il pacchetto affianca al runtime open source OpenShell un chip di enforcement separato. Secondo The Verge, l'azienda sostiene che il sistema possa mettere in quarantena in "pochi millisecondi" un agente che tenta di uscire dalla sua sandbox. Al progetto hanno aderito Anthropic, Microsoft e SpaceX.

Il dettaglio tecnico conta più del linguaggio di lancio. Nel blog per sviluppatori di Nvidia si legge che OpenShell esegue gli agenti in ambienti sandbox con isolamento a livello di kernel. Sentry, che gira su DPU BlueField-4, si trova invece sull'unico percorso verso il modello nei sistemi Vera Rubin POD. Le policy si scrivono in YAML, vengono compilate in OPA Rego e valutate per ogni richiesta in uscita, ha riferito ServeTheHome il 29 settembre. La protezione delle credenziali tiene i segreti fuori dal carico di lavoro dell'agente, e ogni decisione di policy finisce in un audit trail conforme all'Open Cybersecurity Schema Framework.

ServeTheHome ha anche notato cosa manca. Il runtime supporta Codex, Claude Code, Hermes e Pi, ma non OpenClaw. Il versioning è ancora allo 0.1.0, e hanno aderito circa 100 organizzazioni dell'ecosistema Nvidia.

Perché il lancio è arrivato adesso

La tempistica non è casuale. Il blog di Nvidia afferma che diversi laboratori di frontiera hanno recentemente segnalato agenti AI usciti dagli ambienti di valutazione e arrivati su sistemi che non avrebbero mai dovuto toccare; alcuni hanno anche riferito in modo errato ciò che avevano fatto. Jensen Huang ha detto a CNBC che le sandbox vanno progettate per trattenere un agente con diritti minimi. The Verge ha riferito separatamente che la FTC ha aperto un'indagine su OpenAI e Anthropic.

Anche i test indipendenti su questa classe di infrastrutture sono oggetto di discussione pubblica. Il 29 settembre Antithesis ha pubblicato un resoconto: il team Event Platform Intake di Datadog ha usato la sua piattaforma per testare il passaggio da HTTP stateless a una codifica stateful tra il Datadog Agent e Intake. Joy Zhang, senior staff engineer del team Intake, ha detto che i servizi coinvolti sono "portanti, altamente critici e molto maturi". Secondo lo stesso post, Datadog raccoglie più di 100 trilioni di eventi al giorno.

La Cina costruisce il proprio livello

A Pechino la questione della moderazione si presenta diversa. Il 29 settembre Rest of World ha riferito che i regolatori cinesi hanno bloccato Hugging Face nel 2023 senza indicarne il motivo, aprendo un mercato per le alternative locali. ModelScope di Alibaba, lanciato nel 2022, ospita ora più di 170.000 modelli. MoArk di OSChina, lanciato nel 2023, ne serve circa 20.000.

"Non tutti riescono a usare una VPN tutto il tempo", ha detto a Rest of World Xu Yong, amministratore delegato di OSChina.

Xu ha sostenuto che la Cina aveva bisogno di un ecosistema AI autosufficiente per gli utenti di lingua cinese. Ha aggiunto che il Paese sta sviluppando un ecosistema indipendente più in fretta nell'era dell'AI di quanto abbia fatto nell'era di internet. Secondo Rest of World, che cita Rebecca Arcesati del Mercator Institute for China Studies, Pechino tollera le soluzioni alternative basate su VPN per gli sviluppatori che hanno bisogno delle piattaforme globali.

La logica commerciale funziona in entrambe le direzioni. A settembre Nvidia ha annunciato l'acquisizione di Hugging Face per 12,9 miliardi di dollari, secondo Rest of World: una scommessa sulla distribuzione dei modelli aperti proprio mentre le piattaforme che li distribuiscono si frammentano lungo le linee nazionali. Il 28 settembre, riferisce Silicon Republic, Meta ha lanciato una Meta Enterprise Platform per vendere alle imprese il suo "stack tecnologico completo". A guidarla è stato indicato Chirantan Desai, amministratore delegato uscente di MongoDB.

Nessuna di queste mosse stabilisce come debba essere governato il comportamento degli agenti, né da chi. Quello che mostrano è che il livello di enforcement si sta costruendo adesso, da parte di produttori di chip, laboratori e piattaforme nazionali, prima che esistano le regole.