Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

Anthropic: GLM-5.3 quasi alla pari di Mythos nella scrittura di exploit

Anthropic ha pubblicato un rapporto in cui sostiene che GLM-5.3 di Zhipu AI può automatizzare gli exploit quasi al livello del suo modello Claude Mythos, non ancora rilasciato. Tom's Hardware ne ha scritto il 3 ottobre. Nelle prove di Exploitbench, GLM-5.3 ha costruito exploit funzionanti per Chrome 50 volte su 410 tentativi; Mythos ne ha messi a segno 56.

IA e modelliSpiegatoChiara RomanoPubblicato: 3 ottobre 20266 min di letturaFonti 8
Anthropic: GLM-5.3 quasi alla pari di Mythos nella scrittura di exploit

GLM-5.3, il modello open-weight di Zhipu AI, è arrivato a sei exploit di distanza da Mythos, il modello Anthropic non ancora rilasciato, in un benchmark sugli exploit per Chrome. Lo riferisce un rapporto pubblicato da Anthropic e ripreso da Tom's Hardware il 3 ottobre. Su un secondo test interno il divario è di due punti percentuali: GLM-5.3 ha raggiunto il 4% di successi nei "full control-flow hijack", Mythos il 6%. Kimi K3 e DeepSeek V4.1 Flash si sono fermati allo 0% sullo stesso indicatore.

Il dato conta meno per la classifica e più per ciò che dice su chi può usare questa capacità. Mythos è il modello che Anthropic giudica troppo pericoloso per un rilascio pubblico. Vi si accede tramite Project Glasswing, iniziativa lanciata in aprile che fornisce il modello a partner selezionati per la caccia ai bug. I pesi di GLM-5.3 sono aperti. Se i numeri di Anthropic reggono, la distanza tra un modello ad accesso controllato e uno scaricabile è ormai abbastanza piccola da discutere. E quella discussione ora ha un numero attaccato: sei.

Il rapporto di Anthropic aggiunge che il modello GLM-5.3 standard si lascia aggirare facilmente dalle proprie protezioni. Tom's Hardware riporta due metodi. Un prompt ingannevole in cui il modello interpreta un agente autonomo avversario ha funzionato nel 64% dei casi. Il prefill dei token di ragionamento per forzare una risposta ha funzionato nel 92% dei casi. Gli autori descrivono anche un terzo metodo, l'abliteration. Nessuno di questi risultati è stato riprodotto in modo indipendente.

Cosa ha misurato davvero il benchmark

Exploitbench è un ambiente sandbox in cui un modello prova a sviluppare exploit per Google Chrome. Anthropic ha eseguito 410 tentativi per modello. Il confronto principale è 56 successi per Mythos contro 50 per GLM-5.3. Anthropic sostiene inoltre che GLM-5.3 ha sviluppato exploit concatenati in autonomia. La variante più leggera Flash, secondo l'azienda, può costruire exploit concatenati contro bug noti con 20,40 dollari di token. Corrispondono a circa 100-300 milioni di token a seconda del rapporto tra input e output.

Le riserve vanno dette chiaramente. Sono benchmark eseguiti dal fornitore su un modello con cui il fornitore è in concorrenza, e la lettura di Anthropic è già stata messa in dubbio in passato. Tom's Hardware osserva che Anthropic chiede una regolamentazione dello sviluppo dell'IA mentre rilascia Claude Opus 5.5 e Claude Sonnet 5.5 pochi giorni dopo che il suo CEO ha invocato un rallentamento della frontiera. Anthropic cita un rapporto di fine settembre del Center for AI Standards and Innovation secondo cui GLM-5.3 può automatizzare del tutto gli exploit a un livello simile a Mythos.

"Abbiamo iniziato a rilevare lo sfruttamento di CVE-2026-61500 in Rejetto HFS questa sera", ha scritto su LinkedIn giovedì Patrick Garrity, ricercatore di sicurezza di VulnCheck.

Anthropic ha prove proprie che la ricerca di bug di classe Mythos ha conseguenze. Il Register ha riferito il 3 ottobre che una falla critica di bypass dell'autenticazione in Rejetto HTTP File Server, tracciata come CVE-2026-61500, è stata trovata da Zach Hanley, ricercatore di Horizon3, usando Mythos. Ora è sotto attacco. Horizon3 è entrata in Project Glasswing a luglio. I tentativi di sfruttamento sono partiti da un indirizzo IP in Cina contro host negli Stati Uniti e in Giappone, ha detto Garrity al Register. I colpi successivi passavano da due indirizzi statunitensi nella stessa sottorete, riconducibili a un proxy. Gli utenti devono aggiornare a HFS v3.2.1 o versione successiva.

Il tracker di Garrity conta 286 CVE trovate tramite Mythos e Project Glasswing a venerdì, scrive il Register. Fino a giovedì solo una era stata sfruttata in rete. È questo rapporto a favore dell'accesso controllato: molti bug trovati, pochi attaccati finora. Ed è anche l'argomento contro la lettura dei dati di sfruttamento di una singola settimana come garanzia di sicurezza.

Perché il comportamento dei modelli è difficile da misurare

Un lavoro separato pubblicato questa settimana suggerisce che i benchmark su allucinazioni e capacità sono più fragili di quanto i punteggi lascino intendere. Il blog di ricerca di Aleph Alpha descrive un metodo di addestramento che trasforma la risposta alle domande in un gioco a tre giocatori. Un contesto sostiene la risposta giusta, in un altro le prove sono state ritagliate, e il modello deve rispondere sul primo e astenersi sul secondo. Su cinque benchmark di QA, l'azienda sostiene che le risposte sbagliate in contesti insufficienti sono calate fino a 35 punti percentuali rispetto a un modello istruito. Sono scese di 18-20 punti rispetto all'addestramento standard, con un punteggio di grounding in aumento fino a 0,38.

Il punto dietro il metodo è che un punteggio di benchmark dice che una risposta era corretta, non da dove veniva. Un modello può leggere il documento recuperato, ricordare la risposta dal pre-addestramento o appoggiarsi a un indizio spurio. Chiedere una citazione non risolve la questione, perché il modello sceglie la frase dopo aver già risposto.

Lo stesso problema emerge nella ricerca sul recupero delle informazioni. ScholarCatalyst, un benchmark costruito con 184 autori principali che hanno etichettato 207 articoli recenti di informatica, chiedeva ai modelli di trovare il lavoro precedente che aveva plasmato un progetto. Usava solo la letteratura disponibile quando il progetto è iniziato. La ricerca agentica non ha fatto meglio del semplice recupero per embedding, 0,42 contro 0,48 di Recall@20. Un agente costruito su Claude Fable 5.1, che potrebbe aver visto gli articoli finiti durante l'addestramento, ha raggiunto 0,51.

PTXBench, un articolo arXiv rivisto il 28 settembre, ha rilevato che nessun modello valutato eguagliava stabilmente le librerie GPU di frontiera nell'ottimizzazione dei kernel. Ha anche rilevato che eseguire le istruzioni giuste non si traduceva in una velocità competitiva. Gli autori hanno fatto fine-tuning di Qwen3.6-27B e hanno trovato una generalizzazione disomogenea.

Anche il fronte open-weight si muove

L'avvertimento di Anthropic arriva in una settimana di rilasci aperti continui. Aleph Alpha ha pubblicato Kolibri il 3 ottobre, un modello mixture-of-experts tedesco e inglese con 78 miliardi di parametri totali e 3 miliardi attivi. Ha un contesto da 1 milione di token e pesi Apache 2.0 su Hugging Face. È pensato per la pubblica amministrazione, l'industria e l'aerospazio. L'azienda sostiene che eguaglia modelli con fino a quattro volte il suo numero di parametri attivi, come Nemotron 3 Super.

Gli strumenti sono arrivati il giorno prima. Il progetto llama.cpp ha annunciato che il suo server ora supporta i modelli decisionali tramite un endpoint /v1/systemone, seguendo il formato introdotto con Jev di TypeSafe. Ai client esistenti basta un nuovo base URL. Tra i modelli elencati ci sono Laya con 421 milioni di parametri e OpenJev con 27 miliardi, quest'ultimo con licenza non commerciale. Un rilascio separato, Shield Small, è un classificatore da 118 milioni di parametri per rilevare prompt injection e jailbreak, e gira su CPU. La sua model card riporta il 71,8% di richiamo sugli attacchi e un tasso di falsi positivi del 7,2% su un set di confronto usato durante lo sviluppo.

Niente di tutto questo stabilisce se GLM-5.3 sia pericoloso quanto dice Anthropic. È pubblico: i numeri di Anthropic, i metodi che descrive e un flusso costante di modelli aperti capaci. Non lo è: un test indipendente sui tassi di aggiramento delle protezioni, né alcuna dichiarazione di Zhipu AI in risposta al rapporto. Anthropic non ha detto se ha condiviso le conclusioni con Zhipu prima della pubblicazione.

Commenti 0

Fonti

8
  1. 01Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  2. 02Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
  3. 03Bounding Hallucinations: Merlin-Arthur Protocols for Mutual-Information Bounds in Language ModelsEN
  4. 04ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New ResearchEN
  5. 05PTXBench: Benchmarking and Adapting LLMs for GPU Kernel Optimization with Architecture-specific PTXEN
  6. 06Kolibri Has Landed: A Sovereign Open-Weight ModelEN
  7. 07New in llama.cpp: Decision ModelsEN
  8. 08Shield: A 118M model for detecting prompt injections and jailbreaksEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Chiara Romano

Chiara Romano

IA, modelli e tecnologie

Chiara Romano scrive di tecnologia, IA e modelli, media e internet per FLASH24, partendo da documentazione tecnica, repository e specifiche invece che da comunicati stampa. Per ogni modello o piattaforma che segue controlla versioni, licenze, parametri e benchmark, e verifica i numeri confrontandoli con i dati originali o con test indipendenti. Confronta le schede tecniche tra fornitori, parla con sviluppatori e amministratori di sistema, e tiene d'occhio le finestre di rilascio e le modifiche ai termini d'uso. Fuori dalla redazione gestisce self-hosting e reti domestiche, esperienza che le serve per capire come funzionano davvero i servizi che racconta. Non pubblica una notizia se la fonte primaria non è verificabile.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.