Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

OpenAI accusa Moonshot AI di distillazione, mentre i rivali a pesi aperti riducono il divario

OpenAI ha dichiarato il 1 ottobre di aver fermato una campagna coordinata per estrarre il ragionamento dai suoi modelli. L'azienda attribuisce un nucleo centrale dell'attività a persone legate a Moonshot AI, lo sviluppatore cinese di Kimi. Secondo OpenAI l'attività è salita a 16.000 richieste da più di 4.000 utenti in due giorni, alla fine di luglio.

IA e modelliAnalisiChiara RomanoPubblicato: 1 ottobre 20266 min di letturaFonti 7
OpenAI accusa Moonshot AI di distillazione, mentre i rivali a pesi aperti riducono il divario

CNBC ha riportato la notizia giovedì e The Register l'ha ripresa lo stesso giorno. Entrambe le testate hanno notato il tempismo: la divulgazione è arrivata nella stessa settimana in cui Anthropic ha reso pubbliche le proprie accuse contro sviluppatori cinesi. OpenAI dice che l'attività è iniziata all'inizio di luglio e ha raggiunto il picco il 24 e 25 luglio. Il 28 luglio, secondo l'azienda, la campagna era già stata chiusa del tutto.

Nessun sistema è stato violato.

OpenAI ha detto a CNBC che gli operatori non hanno infranto la crittografia, non hanno compromesso i database e non hanno raggiunto le conversazioni salvate degli utenti. Hanno invece manipolato le interazioni con i modelli in modo che il ragionamento protetto tornasse indietro in una forma leggibile da chi faceva la richiesta. The Register cita le parole usate da OpenAI in un post di mercoledì: "Gli operatori non hanno infranto la nostra crittografia, non hanno compromesso un database e non hanno ottenuto accesso diretto alle conversazioni salvate degli utenti."

Che cosa significa davvero distillazione, in questo caso

OpenAI chiama la tecnica "distillazione avversariale". L'idea non è nuova nell'apprendimento automatico: gli output di un modello vengono usati per addestrare o migliorare un altro. Quello che OpenAI descrive è la versione su larga scala. Le query in blocco servono a riprodurre il ragionamento e le capacità di un modello più grande, non solo le sue risposte finali. L'azienda sostiene che estrarre il ragionamento permette a un rivale di riprodurre comportamenti avanzati senza spendere gli stessi soldi in addestramento e sicurezza. Presenta la questione come un problema di sicurezza e di sicurezza nazionale, non solo commerciale.

The Register è stato diretto sull'effetto che la notizia fa. Il titolo del 30 settembre definiva ironica la lamentela di OpenAI. La testata ha scritto che OpenAI ha "inghiottito enormi quantità di contenuti internet tra battaglie sul copyright", mentre tratta la distillazione dei propri modelli come un rischio per la sicurezza. È l'obiezione più forte che circola nella copertura di questi giorni, e vale la pena dirla senza giri di parole: lo stesso argomento sui dati di addestramento taglia in modo diverso a seconda di chi lo usa.

OpenAI dice che non è chiaro se tutti gli operatori coinvolti appartenessero a un unico attore. Attribuisce solo un "nucleo centrale" a persone legate a Moonshot AI. Moonshot non ha risposto subito alle richieste di commento di CNBC e di The Register. The Register ha anche chiesto a OpenAI quali dei suoi modelli fossero stati presi di mira, senza ricevere risposta. Quel dettaglio conta, perché la gravità di qualsiasi accusa di distillazione dipende da che cosa è stato copiato.

"La distillazione avversariale comporta rischi per la sicurezza e per la sicurezza nazionale", ha detto OpenAI mercoledì. "Il ragionamento estratto potrebbe servire ad addestrare un altro modello senza conservare le tutele applicate agli output originali destinati agli utenti."

La battaglia più ampia sui pesi aperti

L'accusa si inserisce in un cambiamento più ampio del modo in cui la capacità di calcolo si distribuisce. I modelli a pesi aperti sono passati da abitudine di nicchia a una quota seria del traffico in produzione. La copertura di settore recente sostiene che i modelli a pesi aperti hanno elaborato per la prima volta la maggioranza dei token di intelligenza artificiale. Sostiene anche che le bollette dei token spingono i carichi di lavoro aziendali verso le opzioni a pesi aperti. Nessuna delle due affermazioni è verificata, quindi va letta come direzione di marcia, non come numero confermato.

Verificabile è che la pressione è reale. Claude Opus 5.5 di Anthropic, uscito una settimana prima del post di OpenAI, arriva con una difesa contro la distillazione chiamata "preserved thinking", introdotta insieme a Fable 5.1, secondo The Register. È una risposta a livello di prodotto a un problema a livello di addestramento. Se i produttori di modelli inseriscono ormai funzioni anti-estrazione nei modelli che vendono, trattano la distillazione come un fatto permanente, non come un incidente isolato.

C'è anche una traccia sul fronte governativo. The Register ricorda che alla fine di luglio Michael Kratsios, assistente del presidente Donald Trump per la scienza e la tecnologia, ha accusato Moonshot AI di aver costruito il modello Kimi K3 distillando Fable di Anthropic. Quell'accusa precede di circa due mesi il post di OpenAI e riguarda il modello di un'altra azienda. Le accuse non si limitano a un solo laboratorio né a un solo episodio.

Intanto lo stack a pesi aperti continua a pubblicare

Mentre i laboratori statunitensi discutono di copie, questa settimana l'ecosistema a pesi aperti ha pubblicato lavoro su lavoro. Il ramo di ricerca di Meta ha rilasciato Context Language Models, un metodo che tratta il contesto di un modello come un file che il modello aggiorna da solo. Il repository viene da un gruppo che riunisce University of Washington, Meta Superintelligence Labs, MIT e Trillium Labs. Riporta un'accuratezza superiore dell'11,4 per cento con il 21,5 per cento di FLOP in meno su BrowseComp-Plus. Riporta anche un miglioramento del 47,6 per cento per Qwen3.5-9B sullo stesso benchmark dopo apprendimento per rinforzo online, con il 12 per cento di FLOP in meno.

Separatamente, il UK AI Security Institute e Meridian Labs hanno pubblicato Inspect, un framework di valutazione open source per i modelli di frontiera. Inspect arriva con più di 200 valutazioni già pronte. Supporta l'esecuzione di agenti esterni arbitrari come Claude Code, Codex CLI e Gemini CLI dentro una sandbox. È il tipo di infrastruttura che rende più economico il test indipendente dei modelli a pesi aperti. Cosa scomoda per chi sostiene che il trasferimento di capacità vada limitato.

C'è anche un versante volontario. Un progetto chiamato Coop sta pre-addestrando un piccolo modello su hardware di consumo donato e su piani di servizio gratuiti. I pseudo-gradienti vengono inviati come pull request su Hugging Face e aggregati da un cron job stateless di GitHub Actions. La prima fase, un modello da 15.000.000 di parametri su TinyStories, si è chiusa oltre il budget ottimale secondo Chinchilla in sei giorni, con la validation loss scesa da 9,01 a 2,8. È piccolo. È anche la prova che il ciclo di addestramento può girare senza un data center.

E un modello non transformer chiamato PSSA, scritto da zero in Rust, dichiara inferenza in tempo lineare con uno strato ricorrente a spazio degli stati e una banca di memoria episodica. Il repository del progetto dice che genera testo circa dodici volte più velocemente di un transformer equivalente sulla stessa CPU e che impara più in fretta a parità di parametri. La pipeline di addestramento dipende ancora da DeepSpeed, un limite che gli autori riconoscono. I risultati dei benchmark vanno presi come dichiarazioni del progetto, non come misure verificate in modo indipendente.

Perché l'accusa è difficile da giudicare

La parte scomoda è che entrambe le parti possono indicare comportamenti reali. OpenAI può indicare 16.000 richieste in due giorni da più di 4.000 utenti, uno schema che secondo l'azienda violava i termini di servizio. I critici possono indicare la genealogia dei dati di addestramento di ogni modello di frontiera costruito negli Stati Uniti. Nessuno dei due fatti annulla l'altro. I dettagli pubblici non stabiliscono quale modello fosse preso di mira né quanta capacità sia davvero passata da una parte all'altra.

OpenAI dice di aver bloccato gli account, rafforzato i controlli su registrazione e infrastruttura, ampliato il monitoraggio e chiuso un percorso che permetteva di riprodurre il ragionamento cifrato di un altro utente per recuperarne il contenuto. Ha condiviso i risultati attraverso il Frontier Model Forum e i canali governativi di scambio di informazioni. Sono contromisure concrete. Descrivono una difesa contro l'estrazione, non una soluzione all'economia che ci sta sotto: finché distillare costa meno che addestrare, qualcuno ci proverà. Il conto economico di cui parlano i laboratori vale 9.000.000.000 di dollari l'anno di investimenti in calcolo, una cifra che nessuno cita nei comunicati ma che spiega perché la partita è così tesa.

Commenti 0

Fonti

7
  1. 01AI race heats up as OpenAI flags alleged model-copying campaignEN
  2. 02Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  3. 03Context Language Models (CLMs)EN
  4. 04Inspect: An open-source framework for large language model evaluationsEN
  5. 05Coop: A small language model pretrained by volunteersEN
  6. 06PSSA: A non-transformer language model written from scratch in RustEN
  7. 07OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Chiara Romano

Chiara Romano

IA, modelli e tecnologie

Chiara Romano scrive di tecnologia, IA e modelli, media e internet per FLASH24, partendo da documentazione tecnica, repository e specifiche invece che da comunicati stampa. Per ogni modello o piattaforma che segue controlla versioni, licenze, parametri e benchmark, e verifica i numeri confrontandoli con i dati originali o con test indipendenti. Confronta le schede tecniche tra fornitori, parla con sviluppatori e amministratori di sistema, e tiene d'occhio le finestre di rilascio e le modifiche ai termini d'uso. Fuori dalla redazione gestisce self-hosting e reti domestiche, esperienza che le serve per capire come funzionano davvero i servizi che racconta. Non pubblica una notizia se la fonte primaria non è verificabile.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.