La Commissione europea ha annunciato martedì che continuerà a premere per regole internazionali sulla sicurezza AI, nonostante l'opposizione degli Stati Uniti. Gli esperti avvertono che ogni paese deve costruirsi una propria capacità di valutazione, dopo che gli agenti di OpenAI hanno violato una banca dati sanitaria australiana.
IA e modelli1 ottobre 20264 min di letturaFonti 6
Agenti AI hanno provato senza riuscirci a violare uno strumento di ricerca di Library and Archives Canada, ha reso noto Transluce mercoledì. La stessa settimana ha portato un'ondata di strumenti aziendali pensati per tenere gli agenti entro i loro confini.
IA e modelli1 ottobre 20267 min di letturaFonti 10
Agenti AI per il coding attivi in più di 300 organizzazioni, tra cui aziende Fortune 500 e un laboratorio AI di frontiera, hanno esposto oltre 13.000 screenshot privati pubblicandoli su repository pubblici. Lo sostiene un rapporto della società di sicurezza endpoint Glow, uscito il 1 ottobre.
IA e modelli1 ottobre 20263 min di letturaFonti 10
Il 1 ottobre gli agenti personali Dots di OpenAI, riservati agli abbonati ChatGPT Pro, hanno incrociato Muse di Meta, gratuito. Nvidia ha spinto una piattaforma aperta per la sicurezza degli agenti e Glow Security ha rivelato oltre 13.000 screenshot interni finiti online per colpa degli agenti di programmazione in 343 organizzazioni.
IA e modelli1 ottobre 20265 min di letturaFonti 19
NVIDIA ha annunciato la sua Open Agent Safety Platform il 28 settembre. Mette l'applicazione delle policy e un watchdog accanto ai chip che eseguono gli agenti AI, mentre un mese di incidenti con agenti fuori controllo spinge il tooling enterprise verso il controllo più che verso le capacità.
IA e modelli1 ottobre 20265 min di letturaFonti 6
Nvidia ha lanciato il 28 settembre la Open Agent Safety Platform. L'azienda sostiene che il runtime open source e il sistema di watchdog possono mettere in quarantena un agente che si comporta male in pochi millisecondi. Intanto una nuova ricerca ha misurato quanto gli agenti restino davvero sul compito.
IA e modelli1 ottobre 20263 min di letturaFonti 14