Un deputato Usa interroga OpenAI, Anthropic e altri tre rivali sul furto dei pesi dei modelli
Il deputato Ro Khanna ha scritto ai vertici di OpenAI, Anthropic, Google, Meta e SpaceX. Vuole sapere cosa sanno dei tentativi della Cina o di altri attori ostili di rubare i pesi dei loro modelli, ha riferito Reuters il 1 ottobre.

Le lettere chiedono anche a ciascuna azienda di descrivere le misure di cybersicurezza adottate per fermare quel tipo di furto, secondo The Next Web. Khanna rappresenta una parte della Silicon Valley. È il democratico di punta nella Commissione ristretta della Camera sulla Cina.
«Il furto di un peso di quel modello da parte della Cina potrebbe erodere il vantaggio americano nell'AI con un colpo di tastiera», ha scritto, secondo Reuters. Le aziende e l'ambasciata cinese a Washington non hanno risposto subito alle richieste di commento di Reuters.
Che cosa sono davvero i pesi di un modello
I pesi sono i numeri appresi durante l'addestramento che fanno funzionare un modello di AI. Chi li possiede può far girare una copia del modello. Per questo sono al centro della disputa in corso tra i laboratori statunitensi e i rivali cinesi. Lo stesso giorno Khanna ha scritto a tre laboratori cinesi: DeepSeek, Alibaba e Moonshot AI. Ha inviato anche una lettera alla comunità dell'intelligence statunitense, per chiedere come gestisce i rischi dell'AI avanzata.
«Non ci si può fidare dei miliardari della Silicon Valley per scrivere le regole che ci tengono al sicuro», ha detto Khanna a Reuters.
I tempi non sono casuali. Il 1 ottobre OpenAI ha dichiarato di aver individuato e interrotto una campagna coordinata per estrarre il ragionamento protetto dai suoi modelli. Ha collegato un nucleo centrale di quell'attività a Moonshot AI, la società che sviluppa Kimi, ha riferito CNBC. L'attività è iniziata all'inizio di luglio. Poi è salita a 16.000 richieste da più di 4.000 utenti nell'arco di due giorni. OpenAI ha detto di aver fermato del tutto la campagna entro il 28 luglio.
OpenAI ha definito l'operazione «distillazione avversariale». È una tecnica in cui gli output o il ragionamento di un modello vengono usati per addestrare o migliorare un altro modello. L'azienda ha detto che gli operatori non hanno violato la sua cifratura, i suoi database né le conversazioni degli utenti archiviate. Hanno invece manipolato le interazioni con il modello in modo che il ragionamento nascosto potesse essere riprodotto in una forma visibile a chi faceva la richiesta. OpenAI ha detto che non era chiaro se tutti gli operatori fossero legati a un unico attore. Aveva condiviso i risultati attraverso il Frontier Model Forum e i canali governativi di scambio di informazioni. Moonshot non ha risposto subito alle richieste di commento di CNBC.
La lettura scettica
The Register è stato più diretto il 30 settembre. Ha fatto notare che OpenAI «ha assorbito enormi quantità di contenuti internet tra battaglie sul copyright» mentre ora descrive la distillazione dei propri output come un rischio per la sicurezza nazionale. Lo stesso articolo cita Michael Kratsios, assistente del presidente degli Stati Uniti Donald Trump per la scienza e la tecnologia. A fine luglio ha accusato Moonshot AI di aver costruito il suo modello Kimi K3 distillando Fable di Anthropic. Claude Opus 5.5 di Anthropic, uscito una settimana fa, arriva con una difesa contro la distillazione chiamata «preserved thinking».
Quanto di tutto questo sia dimostrato è una questione a parte. OpenAI e Anthropic hanno entrambe accusato aziende cinesi, tra cui Moonshot AI e DeepSeek, di distillazione. Ma pochi casi di pesi di modelli rubati sono noti al pubblico, osserva The Next Web.
L'attenzione si sta spostando anche sulla politica. Al developer day di OpenAI del 30 settembre Sam Altman ha detto che l'azienda non si quoterà finché non potrà «prendere decisioni sulla sicurezza con fiducia». Una quotazione potrebbe valutare la società fino a 1.400.000.000.000 di dollari, ha riferito la BBC. Trump, incontrando lo stesso giorno i leader del settore tech, ha ripetuto che le aziende di AI dovrebbero autoregolamentarsi.
Fonti
5- 01US lawmaker asks five AI firms how they guard model weights from ChinaEN
- 02AI race heats up as OpenAI flags alleged model-copying campaignEN
- 03Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
- 04OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN
- 05OpenAI announces 'dots' agent after scrapping launch of new AI model over safety concernsEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.