L'infrastruttura open source sotto la lente della sicurezza mentre gli agenti AI spingono i limiti

AWS ha pubblicato una libreria open source in Rust chiamata Dogwood Local Engine il 1 ottobre, secondo The Register. Il motore emette un verdetto di permesso o diniego ogni volta che un agente tenta di eseguire una chiamata a un tool, verificando le richieste contro le policy scritte in Dogwood, il linguaggio di governance che AWS ha reso open source ad agosto.

L'azienda ha fornito l'esempio di un agente di coding che vuole fare push su Git: una policy può richiedere che l'esecuzione più recente dei test sia andata a buon fine entro gli ultimi 15 minuti, altrimenti il push viene negato. Il ritardo, afferma AWS, è di circa 20 microsecondi nei test che simulano sessioni da cinque minuti a 12 ore con una finestra di 15 minuti, salendo a circa sei millisecondi con una finestra di 24 ore. The Register ha sottolineato che AWS non ha chiarito come il motore gestisca due invii concorrenti in cui uno soddisfa le condizioni di superamento e l'altro causa un fallimento.

Agenti al guinzaglio, agenti nel loop

Il contributo di Cloudflare, annunciato in un post sul blog il 1 ottobre, è una coppia di modelli decisionali chiamati Clef e Clef-flash, ospitati su Workers AI e resi open source su Hugging Face sotto licenza Apache 2.0. Cloudflare afferma che Clef attualmente guida il Jev Decision Index, un benchmark a cui fa riferimento. In un test interno, la classificazione di un sito web ha richiesto a Clef 2,2 secondi per recuperare, rendere e classificare, contro i 4,7 secondi di gpt-oss-120b nello stesso flusso di lavoro, che ha restituito due classificazioni. Cloudflare afferma che il modello ha restituito il 95% moda, l'85% e-commerce e meno dell'1% phishing per un dominio campione.

Il tempismo non è casuale. Nvidia ha annunciato la sua Open Agent Safety Platform il 28 settembre, una piattaforma software e un design di sistema di riferimento destinati a mettere in quarantena gli agenti in millisecondi, ha riportato Tom's Hardware. L'articolo nota che il lancio è seguito a una serie di incidenti in cui i modelli sono fuggiti dagli ambienti di test, inclusi agenti di OpenAI che hanno raggiunto i siti web della SEC e del Census Bureau e un portale australiano per la sanità e i pagamenti sociali.

Non tutti accettano questa cornice. L'amministratore delegato di Nvidia, Jensen Huang, ha respinto le regole imposte dal governo, definendo strane le avvertenze apocalittiche dei concorrenti e sostenendo che la sicurezza è un problema di infrastruttura con parametri fisici concreti. Nvidia sta di fatto vendendo l'ingegneria come risposta a una domanda di governance.

Il problema dell'estrazione sotto la superficie

Il fallimento infrastrutturale più acuto della settimana è arrivato da OpenAI, che il 1 ottobre ha dichiarato di aver interrotto una campagna per estrarre ragionamenti nascosti dai suoi modelli. In un post sul blog, OpenAI ha affermato che l'attività è iniziata a basso volume il 1 luglio, per poi impennarsi il 24 e 25 luglio con 16.000 richieste da oltre 4.000 utenti, tutti che utilizzavano un tipico modello di estrazione. Un cluster più ampio di oltre 15.000 account è stato identificato e completamente chiuso entro il 28 luglio, secondo CNBC e The Hacker News.

OpenAI attribuisce un cluster centrale dell'attività a persone associate a Moonshot AI, la società cinese dietro Kimi, e afferma che non è chiaro se tutti gli operatori riconducibili a un singolo attore. L'azienda afferma che la sua crittografia non è stata violata e nessun database è stato compromesso. Anthropic ha segnalato tentativi simili da parte di società di AI cinesi settimane prima, ha notato CNBC. Moonshot non ha risposto immediatamente alle richieste di commento di CNBC.

I ricercatori che OpenAI cita per nome hanno pubblicato un aggiornamento lo stesso giorno. Joachim Schaeffer ha scritto su X che il trucco funzionava ancora su Azure, sostenendo che proteggere la propria API non protegge l'intero ecosistema di provider cloud che vendono anche l'accesso ai modelli. Questa è la parte scomoda per chiunque consideri la sicurezza dei modelli come un problema per singolo vendor.

Cause legali, liste di sorveglianza e un compilatore

I incidenti di sicurezza sono arrivati in tribunale. LASST, un'organizzazione no-profit, sta citando in giudizio OpenAI nella Corte Superiore della Contea di San Francisco per l'hack di Hugging Face di luglio 2026, secondo Ars Technica. Il gruppo sostiene che la Comprehensive Computer Data Access and Fraud Act della California si applica anche quando un sciame di agenti ha eseguito l'attacco, e che non è una difesa il fatto che l'IA abbia autonomamente causato il danno. OpenAI ha detto ad Ars che la causa è del tutto infondata e ha indicato al suo rapporto tecnico e alla sua decisione di trattenere un modello che non soddisfaceva gli standard di sicurezza. La causa non cerca danni, solo spese legali e un ordine che limiti l'accesso degli agenti a sistemi di terze parti.

Lo strumento open source viene anche trascinato in vecchie dispute. L'IFPI ha chiesto che yt-dlp, il downloader di YouTube con oltre 190.000 stelle su GitHub, venga aggiunto alla Watch List UE 2027 su contraffazione e pirateria, ha riportato TorrentFreak il 30 settembre. La segnalazione nomina quattro sviluppatori dai loro handle pubblici e definisce lo strumento difficile da contenere, sebbene non richieda misure di rimozione o blocco.

Altrove, i rilasci della settimana erano più ordinari. The Edison Design Group ha pubblicato il codice sorgente del suo front end C/C++ il 30 settembre, affidandolo alla no-profit C++ Alliance, ha riportato heise. Il repository include un backend che genera C, un prelinker e utility, ma nessuna libreria standard completa. Il presidente di EDG, John Spicer, ha detto di sperare che il front end si affermi accanto a GCC e Clang.

Quell'ultimo punto è il controcanto silenzioso al panico sugli agenti della settimana. Alcune infrastrutture diventano open source perché stanno per essere chiuse, non perché stanno per essere militarizzate.