Anthropic sostiene che GLM-5.3 di Zhipu ha capacità di hacking paragonabili a Mythos
Il 3 ottobre Anthropic ha riferito che il modello GLM-5.3 di Zhipu AI può generare exploit dannosi a un livello paragonabile al proprio modello Mythos, non ancora rilasciato. L'azienda cita test di benchmark in cui GLM-5.3 ha costruito exploit completi per Chrome in 50 casi su 410 esecuzioni.

Il 3 ottobre Anthropic ha pubblicato un rapporto di red teaming. Secondo l'azienda, GLM-5.3 di Zhipu AI, un modello cinese open-weight molto diffuso, può funzionare come strumento sofisticato di attacco informatico. Anthropic sostiene che GLM-5.3 riesce ad automatizzare gli exploit con un'efficienza simile a quella del proprio modello Mythos, non pubblico e ad alta sicurezza. La dichiarazione arriva mentre cresce l'attenzione verso i sistemi di intelligenza artificiale open-weight, soprattutto quelli sviluppati fuori dagli Stati Uniti.
Il rapporto descrive le prestazioni di GLM-5.3 nei benchmark interni di Anthropic, in particolare Exploitbench. Si tratta di un ambiente isolato, costruito per verificare la capacità di un modello di sviluppare exploit per Google Chrome. In questo test GLM-5.3 ha prodotto 50 exploit completi su 410 esecuzioni. Nello stesso numero di tentativi, il modello Mythos di Anthropic, non disponibile al pubblico, ne ha realizzati 56. The Register ha osservato che il divario è minimo. Il dato indica che i modelli open-weight stanno riducendo la distanza dai modelli chiusi e ad accesso limitato.
Tom's Hardware ha scritto che questi risultati hanno un peso rilevante nel dibattito sulla governance dell'IA. La testata ha ricordato che l'amministratore delegato di Anthropic, Dario Amodei, ha chiesto pubblicamente di rallentare lo sviluppo della frontiera dell'IA. Pochi giorni dopo aver lanciato allarmi sulla sicurezza dei modelli, però, l'azienda ha rilasciato Claude Opus 5.5 e Claude Sonnet 5.5. Diversi osservatori hanno criticato i tempi. Vedono una contraddizione tra la spinta pubblica alla regolamentazione e la strategia commerciale dell'azienda. Tom's Hardware ha anche notato che Anthropic sta valutando una offerta pubblica iniziale. Una mossa che potrebbe complicare ulteriormente la sua posizione sugli standard di sicurezza per l'open source.
I benchmark sulle capacità di GLM-5.3
I dettagli tecnici del rapporto di Anthropic indicano che GLM-5.3 sa fare più di semplici attacchi. Può eseguire exploit complessi e concatenati in autonomia. Tom's Hardware ha spiegato che su un benchmark dedicato ai "full control-flow hijack" GLM-5.3 ha raggiunto un tasso di successo del 4%. È leggermente sotto il 6% di Mythos. Secondo il rapporto, però, è più preoccupante la capacità della variante più leggera di GLM-5.3, chiamata "Flash", di sviluppare exploit concatenati su bug noti a un prezzo in token di appena $20.40. Questo costo basso rende tali capacità accessibili a una platea più ampia di attori. Può abbassare la soglia d'ingresso per operazioni informatiche sofisticate.
Anthropic sostiene inoltre che le protezioni integrate in GLM-5.3 si aggirano facilmente. Il rapporto descrive due metodi principali per eludere i guardrail del modello. Il primo è un prompt ingannevole che spinge l'IA a interpretare il ruolo di un agente autonomo avversario. Con questo metodo il tasso di successo nella generazione di contenuti dannosi è stato del 64%. Il secondo metodo consiste nel precompilare i token di ragionamento del modello per orientare la risposta in una direzione precisa. Ha raggiunto un tasso di successo del 92%. Il rapporto menziona anche un terzo metodo, noto come abliteration, ma i primi resoconti ne danno meno dettagli.
Questi risultati si inseriscono in una tendenza più ampia: i ricercatori di sicurezza stanno scoprendo vulnerabilità nei modelli open-weight. The Register ha ricordato che in aprile Anthropic ha annunciato Project Glasswing. L'iniziativa dà a partner selezionati l'accesso a modelli di classe Mythos per la ricerca di bug. Da allora è aumentato il numero di CVE (Common Vulnerabilities and Exposures) attribuite a questi modelli avanzati. Venerdì Mythos e Project Glasswing avevano scoperto 286 CVE, secondo un tracker gestito dal ricercatore di sicurezza di VulnCheck Patrick Garrity. Fino a giovedì solo una di queste vulnerabilità era stata sfruttata in attacchi reali. Poi la situazione è cambiata.
Sfruttamento nel mondo reale e il legame con Mythos
Gli eventi recenti attorno a un bug critico di bypass dell'autenticazione in Rejetto HTTP File Server (HFS) mostrano l'urgenza delle affermazioni di Anthropic. The Register ha riferito che Zach Hanley, ricercatore della società di pen-testing con IA Horizon3, ha usato Mythos per individuare una nuova falla in questo file server, tracciata come CVE-2026-61500. La vulnerabilità consente l'accesso completo come amministratore e l'esecuzione di codice da remoto. Hanley ha pubblicato un video con i passaggi per sfruttare HFS ed eseguire codice sul server da remoto. Il caso mostra l'utilità pratica di questo tipo di scoperta di vulnerabilità guidata dall'IA.
Giovedì Patrick Garrity, ricercatore di sicurezza di VulnCheck, ha dichiarato su LinkedIn di aver iniziato a rilevare lo sfruttamento di CVE-2026-61500 quella sera. Ha aggiunto che l'attività iniziale proveniva da un indirizzo IP in Cina e prendeva di mira host vulnerabili negli Stati Uniti e in Giappone. Venerdì Garrity ha segnalato quattro rilevamenti da due diversi indirizzi IP negli USA. Ha notato che sembravano arrivare da un proxy. Gli intrusi informatici legati alla Cina usano abitualmente dispositivi compromessi come proxy per instradare traffico dannoso e nascondere la loro posizione reale. Un avviso di sicurezza di dieci paesi, diffuso in aprile, metteva in guardia proprio su questa tattica.
Il rapporto di Anthropic su GLM-5.3 cita anche un documento del Center for AI Standards and Innovation, pubblicato a fine settembre. Quel documento sostiene che GLM-5.3 può automatizzare completamente gli exploit a un livello simile a Mythos. Questa validazione esterna rafforza i benchmark interni di Anthropic. L'azienda sostiene che queste capacità rendono pericolosi i modelli open-weight se non sono adeguatamente protetti. Possono essere usati per generare contenuti dannosi e condurre attacchi informatici. Il rapporto ricorda la doppia natura dei modelli di IA avanzati e le difficoltà nel governarne il rilascio.
Per gli sviluppatori e i team di sicurezza la conclusione è chiara: i modelli open-weight richiedono test e monitoraggio rigorosi. The Register consiglia a chi usa Rejetto HFS di aggiornare alla versione 3.2.1 o successiva per correggere le falle. Più in generale, l'incidente mette in luce la necessità di pratiche di sicurezza solide. L'IA può ora accelerare la scoperta e lo sfruttamento delle vulnerabilità. Man mano che le capacità di modelli come GLM-5.3 e Mythos crescono, il confine tra strumenti di difesa e armi offensive diventa sempre più sfumato.
La posizione di Anthropic su questa questione è complessa. L'azienda sostiene che Mythos è troppo potente per essere rilasciato al pubblico. Allo stesso tempo si batte per la governance e la regolamentazione del settore. Le sue azioni, dal rilascio dei nuovi modelli Claude alla spinta verso la quotazione in borsa, indicano un modello di business basato sul rapido dispiegamento delle capacità dell'IA. Questa tensione tra interessi commerciali e preoccupazioni per la sicurezza resterà probabilmente un tema centrale nel futuro dell'industria dell'IA. Il rapporto su GLM-5.3 è l'ultimo capitolo di una storia in crescita sui rischi e sui vantaggi dell'IA open-weight.
Fonti
10- 01Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
- 02Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
- 03OpenAI alerts 100+ orgs that its 'misaligned models' attempted to break in - or worseEN
- 04US road rage killer's sentence quashed because AI video of victim was shown in courtEN
- 05Twelve AI clay films for $184: The agents cost more than the video modelEN
- 06Kolibri: A Sovereign Open-Weight ModelEN
- 07New in Llama.cpp: Decision ModelsEN
- 08Shield: A 118M model for detecting prompt injections and jailbreaksEN
- 09Open 10-player CS:GO dataset for multiplayer world modelsEN
- 10We diffed all 66 release pairs of the official MCP servers, 140 silent changesEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.