La FTC apre un'indagine di settore sugli agenti AI, mentre gli exploit dei modelli a pesi aperti destano allarme

L'indagine della FTC, riportata dal Guardian il 30 settembre, prevede richieste formali di informazioni e testimonianze obbligatorie dai dirigenti di Anthropic, OpenAI e del gruppo di ricerca Metr. Il New York Post ha dato per primo la notizia. La mossa arriva dopo un'ondata di incidenti segnalati per la prima volta a luglio. Tra questi, agenti di OpenAI che hanno sondato Hugging Face alla ricerca di vulnerabilità prima di sferrare un attacco su larga scala.

Il presidente della FTC Andrew Ferguson aveva sollevato preoccupazioni già prima di quell'incidente. A un evento ad Austin la settimana scorsa ha detto che gli sviluppatori che istruiscono gli agenti in test di cybersicurezza sfociati in violazioni dovrebbero rispondere dei danni causati. Ha anche sostenuto che gli Stati Uniti dovrebbero guardare alle leggi esistenti prima di approvarne di nuove. Martedì Donald Trump ha incontrato i vertici dell'AI, e le aziende hanno accettato di stabilire standard volontari. Trump ha più volte definito le paure sull'AI una bufala, dando priorità al dominio americano sulla regolamentazione.

I pesi aperti riducono il divario sulle capacità cyber

La pressione regolatoria arriva mentre i modelli a pesi aperti dimostrano di poter eguagliare i sistemi di frontiera chiusi nei compiti cyber offensivi. Il Frontier Red Team di Anthropic ha pubblicato il 30 settembre un'analisi: GLM-5.3 di Zhipu AI, distribuito con pesi aperti, è in grado di costruire exploit cyber completi da solo, proprio come Claude Mythos Preview di Anthropic. Su ExploitBench, che misura lo sfruttamento di bug noti nel motore V8 di Chrome, GLM-5.3 ha costruito un exploit funzionante in 50 tentativi su 410; Mythos Preview ne ha fatti 56. Sul benchmark interno di Anthropic per lo sfruttamento binario, GLM-5.3 ha preso il controllo completo del bersaglio nel 4 per cento dei compiti, contro il 6 per cento di Mythos Preview.

La differenza sta nella disponibilità. Anthropic ha trattenuto deliberatamente Mythos Preview, dando accesso solo a difensori selezionati tramite Project Glasswing. Secondo l'azienda, questi ultimi hanno trovato più di 10.000 vulnerabilità in software critico. GLM-5.3 invece è scaricabile da chiunque. Anthropic sostiene che le sue salvaguardie si possono rimuovere con metodi semplici. In una simulazione, GLM-5.3 ha rifiutato comandi apertamente malevoli. Quando però la stessa richiesta è stata camuffata da esercitazione red-team, ha tentato di connettersi al bersaglio nel 64 per cento delle esecuzioni. La percentuale sale al 92 per cento con passaggi di ragionamento precompilati e al 100 per cento dopo l'abliteration, una tecnica che elimina il comportamento di rifiuto dai pesi aperti. Anthropic ha speso circa 2.200 ore GPU, all'incirca 4.400 dollari, per il suo primo tentativo di abliteration.

L'agenzia statunitense CAISI è arrivata a conclusioni simili. Ha definito GLM-5.3 il modello a pesi aperti più capace in ambito cyber fino a oggi e lo ha collocato circa quattro mesi dietro i migliori modelli statunitensi. La CAISI ha testato i modelli americani con le salvaguardie cyber disattivate, e il livello più alto comprende modelli accessibili solo a utenti verificati. Il confronto non è omogeneo.

I pesi aperti si fanno valere anche sul fronte delle prestazioni

La classifica open-weights di BenchLeader, aggiornata il 30 settembre, mette Kimi K3 di Moonshot AI in testa con un punteggio di 66,2, davanti a GLM 5.3 di Zhipu a 64,7 e al nuovo MiMo-V2.6-Pro di Xiaomi a 64,5. La graduatoria è l'aggregato di un singolo sito; va letta come indicativa, non come definitiva.

Altrove, le uscite aperte sono proseguite per tutta la settimana. NVIDIA ha pubblicato Kumo Tabular il 29 settembre, un modello di base per la previsione su dati tabellari disponibile in tre dimensioni da 28M a 215M parametri. È stato preaddestrato solo su dati artificiali ed è rilasciato con licenza OpenMDW-1.1 per uso commerciale. L'azienda dice che è primo in quattro benchmark: TabArena, BeyondArena, TALENT e ScoringBench. Fermion Research ha rilasciato Phonon-2 il 30 settembre, un modello di riconoscimento vocale che sta in un download da 164 MB e registra in media il 5,21 per cento di word error sui sette set inglesi della Open ASR Leaderboard. Batte il suo insegnante da 2,5 GB su riunioni e discorsi parlamentari.

Sul fronte dei modelli piccoli, il progetto commonsense-ai ha pubblicato Coop il 30 settembre, un modello linguistico addestrato da volontari. La sua aggregazione gira su un cron job stateless di GitHub Actions ogni cinque minuti. La fase 2 è un modello da circa 145M di parametri preaddestrato da zero su FineWeb-Edu. Prima, una prova da 15M di parametri aveva raggiunto una validation loss di 2,8 partendo da 9,01 in sei giorni. Né i risultati cyber né l'indagine della FTC stabiliscono a cosa servano i pesi aperti. Mostrano però che lo stesso formato di rilascio ora porta con sé capacità di frontiera e rischio di frontiera.