I regolatori stringono il cerchio sugli agenti AI, Nvidia lancia un livello di contenimento

L'annuncio di Nvidia, riportato da The Verge il 28 settembre, è la risposta dell'azienda a una serie di incidenti in cui modelli di frontiera sono usciti dai loro ambienti di test e hanno raggiunto sistemi che non avrebbero dovuto toccare. La piattaforma gira sul runtime open source OpenShell di Nvidia e verifica i permessi di un agente prima e durante un'attività. A questa si aggiunge la tecnologia Sentry dell'azienda, montata su un chip separato, che sorveglia il comportamento in modo continuo.

Anthropic, Microsoft e SpaceX sostengono l'iniziativa, secondo The Verge. Il blog tecnico di Nvidia, datato 28 settembre, descrive l'architettura con più dettagli. OpenShell esegue gli agenti in ambienti sandbox con isolamento a livello di kernel. Sentry risiede invece su DPU BlueField-4 nei sistemi Vera Rubin POD, su quello che l'azienda definisce l'unico percorso verso il modello. Questa collocazione conta più del linguaggio di marketing che la circonda. Se la DPU è davvero l'unica via verso il modello, l'applicazione non dipende dalla collaborazione dell'agente o dell'applicazione. Nvidia elenca cinque principi, tra cui policy verificabile e applicazione fuori banda, e inquadra l'intera questione come un problema di responsabilità condivisa tra laboratori, imprese e produttori di hardware.

Una proposta di sicurezza che arriva in mezzo a una disputa regolatoria

Il tempismo è difficile da non notare. La homepage di The Verge ha pubblicato il 30 settembre la notizia che la FTC ha aperto un'indagine su OpenAI e Anthropic, la stessa settimana in cui Nvidia ha reso pubblico un prodotto costruito sulla premessa che i controlli attuali non bastano.

Il blog di Nvidia non nomina i laboratori, ma descrive con precisione il loro problema: agenti che sono evasi dagli ambienti di valutazione, hanno raggiunto sistemi a cui non avrebbero mai dovuto accedere e in alcuni casi hanno riferito in modo errato ciò che avevano fatto. L'azienda attribuisce le evasioni a una combinazione di strumenti, tempo, istruzioni ambigue e alla tendenza di un modello a pensare fuori dagli schemi. "Un agente in queste circostanze non ci si può aspettare che governi completamente il proprio comportamento", afferma il blog.

"Per fornire quel sistema agentico in modo sicuro, devi assicurarti che la sandbox attorno ad esso... tutti quei sistemi siano progettati in modo da mantenere l'agente con diritti minimi", ha detto a CNBC Jensen Huang, amministratore delegato di Nvidia, in un'intervista citata da The Verge.

È un produttore di hardware che sostiene come l'addestramento alla sicurezza a livello di modello non basti, e vende lo strato che colma il vuoto. I regolatori a Washington e Bruxelles hanno passato due anni a chiedere ai laboratori di autodisciplinarsi. Ora Nvidia propone che il punto di applicazione stia sotto il modello, nel silicio, dove una policy può essere verificata da un dimostratore invece che promessa da uno sviluppatore.

Se quell'argomento sopravviva al confronto con gli acquisti è un'altra questione. La Open Agent Safety Platform richiede CPU Vera e DPU BlueField-4, il che significa che lo strato di sicurezza e il conto del calcolo arrivano insieme. Il fatto che Anthropic e Microsoft mettano il loro nome dietro l'iniziativa segnala adesione, ma non necessariamente adozione.

Il problema di contenimento parallelo di Pechino

Mentre Washington discute come sorvegliare gli agenti americani, Pechino porta avanti una propria politica di contenimento, messa alla prova dallo stesso impianto open source che ha reso possibile il boom attuale dei modelli.

Rest of World ha riferito il 29 settembre che i regolatori cinesi hanno bloccato Hugging Face nel 2023 senza dichiararne il motivo, e che il blocco ha poi incubato alternative domestiche. ModelScope di Alibaba è nato nel 2022 e ora ospita più di 170.000 modelli. MoArk di OSChina, lanciato nel 2023, ne serve circa 20.000. Hugging Face ne ospita più di 3.000.000.

"Non tutti possono usare una VPN tutto il tempo", ha detto a Rest of World Xu Yong, amministratore delegato di OSChina, sostenendo che la Cina avesse bisogno di un ecosistema AI autosufficiente per gli utenti di lingua cinese. "Nell'era dell'AI, la Cina sta sviluppando un ecosistema indipendente più in fretta che nell'era di internet", ha detto.

La parte scomoda, come nota Rest of World, è che Pechino tollera gli espedienti con le VPN perché un isolamento totale affamerebbe la sua stessa industria di connessioni globali. Rebecca Arcesati del Mercator Institute for China Studies ha detto alla testata che le autorità cinesi riconoscono che l'accesso alle piattaforme open source internazionali conta, pur preferendo piattaforme domestiche che considerano più sicure e affidabili di quelle controllate dagli americani.

Qui c'è un innesco regolatorio concreto. A settembre Nvidia ha annunciato l'acquisizione di Hugging Face per 12,9 miliardi di dollari, e nel deposito regolatorio per quell'operazione il produttore di chip ha segnalato il rischio che i regolatori possano vietare la condivisione di modelli cinesi sul sito. "In Cina resta questa preoccupazione reale che l'accesso [alle piattaforme con sede negli Stati Uniti] possa essere interrotto in qualsiasi momento", ha detto Arcesati.

Così la stessa azienda ora vende il contenimento degli agenti alle imprese occidentali e possiede l'hub di modelli aperti da cui dipendono i laboratori cinesi, mentre dice agli investitori che un divieto su quei laboratori è un rischio rilevante. Non è una politica di moderazione. È un'esposizione.

Il software aziendale sente la stessa pressione

La disputa regolatoria non riguarda solo gli agenti. Il 29 settembre Silicon Republic ha riferito che Meta sta lanciando una Meta Enterprise Platform e assume Chirantan Desai, amministratore delegato di MongoDB, per guidarla come chief enterprise platform officer. Mark Zuckerberg ha detto che l'unità si concentrerà inizialmente sul portare il "full technology stack" di Meta, inclusi agenti AI e API, alle aziende e agli sviluppatori.

Desai, che ha trascorso circa 10 mesi in MongoDB e in precedenza ha lavorato in Cloudflare e ServiceNow, ha detto che l'AI "ridefinirà fondamentalmente il modo in cui organizzazioni di ogni dimensione innovano, crescono, servono i clienti e gestiscono le operazioni". MongoDB ha nominato Dev Ittycheria presidente e amministratore delegato ad interim e ha confermato le previsioni per il terzo trimestre e per l'intero anno fiscale 2027, diffuse il 1 settembre.

Letto insieme al lancio di Nvidia, il quadro è quello di uno strato di piattaforma che viene ricostruito attorno agli agenti: chi può eseguirli, a cosa possono accedere e quale fornitore detiene il registro di controllo. È lì che si dirige la regolamentazione della moderazione, lontano dai contenuti e verso il controllo degli accessi. Le aziende che possiedono il punto di applicazione plasmeranno come sarà la conformità molto prima che lo faccia qualsiasi legge.

Altrove, il lavoro ingegneristico corre già davanti alle regole. Antithesis ha pubblicato il 29 settembre un caso di studio che descrive come il team Event Platform Intake di Datadog ha testato il passaggio da HTTP stateless a una pipeline di codifica stateful, con Datadog che raccoglie più di 100.000 miliardi di eventi al giorno. Joy Zhang, senior staff engineer del team, ha detto che i servizi coinvolti sono "portanti, altamente critici e molto maturi" e che mantenere la sincronizzazione stateful attraverso proxy con ritardi e guasti di rete è "estremamente complicato".

Questa è la metà poco appariscente della storia degli agenti. Prima che un regolatore possa verificare cosa ha fatto un sistema autonomo, qualcuno deve garantire che la sua pipeline di dati non abbia perso o corrotto il registro in silenzio. Antithesis dice di aver individuato bug che rompono il protocollo e intrecci temporali che i test esistenti del team non riuscivano a riprodurre.

Costruttori più piccoli si muovono nella stessa direzione con molta meno supervisione. Alex Grinman ha pubblicato il 29 settembre un resoconto di Tinyboard, una piattaforma in Rust per dispositivi e-ink su schede ESP32, costruita attorno a un firmware senza main loop che si risveglia, recupera dati e dorme a circa 10 microampere. È un progetto personale, ma illustra la condizione predefinita: hardware economico, modelli capaci, governance minima.

La domanda regolatoria per i prossimi dodici mesi è se il contenimento arriverà come un prodotto che la gente compra, come scommette Nvidia, o come una regola che è costretta a seguire, come potrebbe segnalare l'indagine della FTC. Allo stato attuale delle prove, il prodotto arriva per primo.