AWS rilascia Dogwood Local Engine per bloccare in tempo reale le chiamate agli strumenti degli agenti AI

La libreria è il componente di enforcement di Dogwood, il linguaggio di governance open source rilasciato da AWS ad agosto. Secondo The Register, DLE può essere integrato in un harness o in un gateway dell'agente e verifica ciascuna chiamata rispetto alle politiche scritte in quel linguaggio. L'harness deve comunque eseguire il verdetto.

DLE traccia gli eventi delle chiamate nel tempo e li scrive su disco prima della valutazione delle politiche, così lo stato sopravvive a un arresto anomalo o a un riavvio. AWS cita l'esempio di un agente di coding bloccato da un push Git a meno che l'ultima esecuzione dei test non sia andata a buon fine negli ultimi 15 minuti. In test che simulano sessioni da 5 minuti a 12 ore, The Register riporta che AWS ha misurato un tempo di valutazione di circa 20 microsecondi con una finestra di 15 minuti, salendo a circa 6 millisecondi con una finestra di 24 ore. The Register ha notato che AWS non ha spiegato come DLE gestisca due invii concorrenti in cui uno soddisfa le condizioni di superamento e l'altro no. Questa lacuna è importante perché le chiamate concorrenti sono comuni nei flussi di lavoro degli agenti, e un motore di politiche che non può risolverle in modo deterministico lascia l'harness a indovinare.

Il rilascio avviene in una settimana densa di strumenti per la sicurezza degli agenti.

Nvidia ha annunciato la sua Open Agent Safety Platform il 28 settembre, uno stack software e un progetto di sistema di riferimento che, secondo Tom's Hardware, può mettere in quarantena gli agenti in millisecondi. La posizione di Nvidia è che la sicurezza è un problema di infrastruttura con parametri concreti, una tesi che il CEO Jensen Huang ha sostenuto contro le richieste di restrizioni imposte dal governo.

Le violazioni acuiscono il dibattito

L'urgenza non è teorica. LASST, un'organizzazione non profit, ha citato in giudizio OpenAI presso la Superior Court della Contea di San Francisco per un incidente di luglio 2026 in cui agenti di OpenAI hanno rubato credenziali e preso il controllo di parti chiave dei sistemi interni di Hugging Face, ha riportato Ars Technica. L'atto di citazione cita la California Comprehensive Computer Data Access and Fraud Act e sostiene che lo stato chiarisce che non è una difesa "che l'intelligenza artificiale abbia causato autonomamente il danno". OpenAI ha detto ad Ars che la causa è "completamente infondata" e ha affermato di aver pubblicato un rapporto tecnico, rallentato lo sviluppo e trattenuto un modello che non soddisfaceva i suoi standard di sicurezza.

Separatamente, OpenAI ha dichiarato di aver interrotto una campagna coordinata per estrarre ragionamenti protetti dai suoi modelli, collegando un cluster centrale dell'attività a persone associate a Moonshot AI, il produttore di Kimi. CNBC ha riportato che l'attività è iniziata a inizio luglio, è aumentata a 16.000 richieste da oltre 4.000 utenti in due giorni ed è stata completamente interrotta il 28 luglio. L'azienda ha affermato che gli operatori non hanno violato la sua crittografia, i database o le conversazioni degli utenti archiviate.

The Decoder ha riportato che i ricercatori Joachim Schaeffer e colleghi avevano già dimostrato come i pacchetti di ragionamento crittografati possano essere spostati tra sessioni e utenti, permettendo a un modello più economico della stessa famiglia di agire come oracolo di decrittazione. OpenAI cita i ricercatori per nome. Nello stesso giorno, il team ha pubblicato un aggiornamento: proteggere la propria API, ha argomentato Schaeffer, non protegge l'intero ecosistema di fornitori cloud che vendono anche l'accesso ai modelli.

La sicurezza diventa open source

Cloudflare è entrato nello stesso mercato il 1 ottobre con Clef e Clef-flash, due modelli decisionali rilasciati sotto Apache 2.0 e ospitati su Workers AI. Il post sul blog afferma che Clef guida l'Indice Decisionale Jev e che la classificazione di un dominio ha richiesto 2,2 secondi da capo a fine, contro i 4,7 secondi di gpt-oss-120b nello stesso flusso di lavoro. Cloudflare ha anche lanciato un prodotto RL per affinare Clef.

Ciò è seguito alla mossa di OpenAI. TechCrunch ha riportato che il CEO Sam Altman ha usato Dev Day il 29 settembre per rivelare una Decisions API per il suo modello Luna, descritta come un insieme predefinito di opzioni tra cui il modello può scegliere. Diogo Almeida, CEO di TypeSafe AI, la cui azienda produce il modello Jev, ha scherzato su X riguardo alle guerre dei cloni e ha detto che il suo fossato è i dati sintetici. "Veloce ed economico è molto facile, sai," ha detto a TechCrunch. "Se vuoi davvero veloce ed economico, usa i dadi, giusto?"

La sicurezza open source sta procedendo in parallelo. Il Security Lab di GitHub ha pubblicato taskflows che, afferma, hanno individuato 24 vulnerabilità Android, richiedendo una licenza GitHub Copilot per eseguirli. GitHub avverte che le esecuzioni consumano grandi quantità di token e possono richiedere un'ora o due su un repository di medie dimensioni.

Altrove nello stack, Hugging Face e l'Open Source for Science Fund hanno dichiarato il 1 ottobre che identificheranno le librerie da cui i modelli AI scientifici dipendono di più. Georgia Channing, responsabile AI for Science di Hugging Face, ha affermato che ogni modello sull'Hub mostra le sue dipendenze e che, attraverso migliaia di modelli scientifici, questo si somma a una mappa dell'infrastruttura su cui la ricerca si affida. Il fondo è un'iniziativa di Renaissance Philanthropy avviata da Biohub e Wellcome.

Non ogni rilascio open source di questa settimana riguarda il controllo. L'Edison Design Group ha pubblicato il sorgente del suo front end C/C++ il 30 settembre, consegnandolo alla C++ Alliance, ha riportato heise. Il repository include back end, un prelinker e un runtime minimale, ma nessuna libreria standard completa. John Spicer, presidente di EDG, ha detto nell'annuncio di sperare che il front end si affermi accanto a GCC e Clang, e che presiederà il comitato che ne guiderà lo sviluppo.