Il tooling per agenti si divide in due: le sandbox di Nvidia e le previsioni di abbandono di Gartner
Nvidia ha lanciato il 28 settembre la Open Agent Safety Platform. L'azienda sostiene che il runtime open source e il sistema di watchdog possono mettere in quarantena un agente che si comporta male in pochi millisecondi. Intanto una nuova ricerca ha misurato quanto gli agenti restino davvero sul compito.

Nvidia ha annunciato la piattaforma il 28 settembre. Il pacchetto unisce OpenShell, un runtime che traccia le azioni degli agenti e applica le policy sulle CPU Vera, e Sentry, un watchdog fuori banda che gira sulle DPU BlueField-4.
Tom's Hardware riferisce che Sentry mette in quarantena in pochi millisecondi un agente che prova a uscire dal proprio perimetro. Secondo The Robot Report, più di 100 organizzazioni stanno lavorando con questa tecnologia, tra cui l'azienda di robotica ispettiva Gecko Robotics. Jensen Huang ha inquadrato la sicurezza come ingegneria, non come politica. "La sicurezza richiede ingegneria full-stack", ha detto il CEO di Nvidia in una dichiarazione ripresa da The Robot Report. Justin Boitano, vicepresidente dell'AI enterprise di Nvidia, ha descritto il progetto allo stesso giornale come una safety island delle auto a guida autonoma. Il sistema principale gestisce la percezione, e un dominio di fiducia separato fa sì che tutto fallisca in modo sicuro.
La stessa settimana, una fuga di dati e un benchmark
Il lancio è arrivato pochi giorni dopo la pubblicazione di PixelLeak da parte dell'azienda di sicurezza endpoint Glow. Quel rapporto ha rilevato che gli agenti di coding AI avevano caricato più di 13.000 screenshot interni su repository GitHub pubblici. Ne hanno parlato sia The Decoder sia Tom's Hardware. Le immagini provenivano da 343 organizzazioni, oppure da più di 300 a seconda dell'articolo che si legge. Contenevano dati dei clienti, credenziali di accesso, registri finanziari e funzionalità non ancora rilasciate. La causa era banale. GitHub espone gli allegati immagine nelle pull request attraverso il browser, e gli agenti lavorano da riga di comando, così hanno improvvisato creando repository pubblici.
Una ricerca indipendente indica un problema più profondo. Un paper inviato ad arXiv il 30 settembre, "Staying on Task", ha valutato sette modelli open-weight. Ha rilevato un calo di prestazioni del 62,8% quando la lunghezza del contesto passava da 4.000 a 128.000 token. Variare il formato dell'input è costato il 36,5%. Aumentare la complessità del compito locale è costato il 39,9%. Gli autori definiscono questi punti criticità per i flussi di lavoro agentici su orizzonti lunghi.
Altri contributi su arXiv di questa settimana attaccano lo stesso vuoto. Una sistematizzazione sui rischi concorrenti ha esaminato 22 rapporti di incidenti e 102 valutazioni di sicurezza pubblicati tra gennaio 2025 e settembre 2026. Ha scoperto che in 20 incidenti su 22 era l'ambiente stesso a permettere l'effetto fuori perimetro. Un altro benchmark sulla capacità di ritiro selettivo ha riportato una recall di ritiro al massimo di 0,06 sui modelli testati.
Gli acquirenti frenano
Gartner prevede che entro il 2028 il 70% delle imprese abbandonerà i sistemi di AI agentica realizzati con l'assistenza dei fornitori. I costi salgono, e i clienti faticano a modificare la tecnologia senza aiuto esterno. The Register ha riportato la previsione il 30 settembre. Mukul Saha, analista di Gartner, ha detto che gli incarichi di forward-deployed engineering meglio definiti stabiliscono governance, proprietà della proprietà intellettuale, trasferimento di conoscenze e strategia di uscita fin dal primo giorno. La società ha anche messo in guardia dal "FDE washing", cioè dalla pratica di rietichettare la consulenza ordinaria come qualcosa di più specializzato.
"Molti fornitori oggi usano 'forward deployed' come etichetta per implementazione, servizi professionali, solution engineering o consulenza AI; alcuni con criterio, altri perché suona più strategico", ha detto Saha.
L'identità è l'altro punto debole. The Hacker News ha illustrato un framework che tratta ogni agente come un'identità non umana con un proprietario umano, un perimetro definito e una data di scadenza. Ha osservato che di solito sono le pipeline di deployment a creare le identità degli agenti, non i flussi di lavoro delle risorse umane, così saltano la governance che intercetta le anomalie di accesso umane. La Top 10 di OWASP per le applicazioni LLM nomina direttamente questa modalità di guasto come agenzia eccessiva.
I fornitori vendono dentro quell'ansia. Restate, startup berlinese fondata dai creatori di Apache Flink, ha raccolto un Serie A da 20.000.000 di dollari guidato da Singular per mantenere gli agenti in funzione anche attraverso i crash, portando il finanziamento totale a 27.000.000 di dollari, secondo The Next Web. Metaview ha raccolto 60.000.000 di dollari guidati da Insight Partners per portare gli agenti in tutta la selezione del personale, con più di 7.000 aziende che la usano. Sul fronte consumer, DoorDash ha aperto una lista d'attesa per un agente text-to-order su Apple Messages. Airbnb ha rilasciato questa settimana la ricerca basata sull'AI, con il CEO Brian Chesky che ha detto a TechCrunch che i chatbot sono l'interfaccia sbagliata per navigare.
Il filo che unisce Dallas e arXiv è lo stesso. Il tooling per agenti arriva sul mercato più in fretta delle prove che regga. Gli acquirenti che hanno più da perdere stanno iniziando a metterlo nel prezzo.
Fonti
14- 01Nvidia launches Open Agent Safety Platform to restrain rogue AI agentsEN
- 02Gecko Robotics works with NVIDIA to add AI agent security and controlEN
- 03Security startup finds more than 13,000 internal company screenshots that AI agents uploaded publiclyEN
- 04AI agents inadvertently leak 13,000+ internal screenshots from organizationsEN
- 05Staying on Task: Testing the Foundations of Long-Horizon Agent ReliabilityEN
- 06A Competing-Hazards Systematization of Loss of Control in Autonomous AgentsEN
- 07NAQD Env: A benchmark for selective withdrawal in language agentsEN
- 087 in 10 enterprises expected to abandon vendor-built agentic AI by 2028EN
- 09IAM for AI agents: A Practical Enterprise FrameworkEN
- 10Restate raises $20m to keep AI agents running when software failsEN
- 11Metaview raises $60m to put AI agents across the whole hiring processEN
- 12DoorDash launches an AI agent you can text to order foodEN
- 13Brian Chesky interview: AI agents need their own operating systemEN
- 14CNBC AI Forum live updates: Enterprise AI in DallasEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.