Pesi aperti, ricette chiuse: cosa dicono davvero lo studio sulla memorizzazione e la battaglia sulle licenze
Uno studio presentato a COLM 2026 ha misurato quanto 14 modelli linguistici a pesi aperti hanno memorizzato 200 libri. La maggior parte dei modelli non riproduce la maggior parte dei libri, ma a Llama 3.1 70B bastano le prime parole di un libro per ottenere un output quasi identico di alcuni titoli. Il risultato arriva nel mezzo di una disputa su cosa debba significare "aperto".

Il paper è Extracting memorized pieces of (copyrighted) books from open-weight language models, arXiv:2505.12546, inviato per la prima volta il 18 maggio 2025 e rivisto fino al 20 luglio 2026. Gli autori sono A. Feder Cooper, Mark A. Lemley, Allison Casasola, Ahmed Ahmed, Aaron Gokaslan, Amy B. Cyphert, Christopher De Sa, Daniel E. Ho e Percy Liang. È stato accettato a COLM 2026.
L'obiettivo dichiarato è lo stile argomentativo delle cause legali. Attori e convenuti nei procedimenti sul copyright nell'IA generativa, si legge nell'abstract, "spesso avanzano affermazioni ampie e contrapposte sulla misura in cui i modelli linguistici di grandi dimensioni (LLM) memorizzano espressioni protette tratte da libri presenti nei loro dati di addestramento". Secondo gli autori, entrambe le parti "semplificano in modo drammatico il rapporto tra memorizzazione e copyright".
Hanno quindi costruito una tecnica di misurazione e l'hanno applicata su larga scala: 200 libri, 14 modelli a pesi aperti, più di 3000 esperimenti. Il risultato principale è negativo per le tesi più forti. "Rispetto alla nostra specifica metodologia di estrazione, troviamo che la maggior parte degli LLM non memorizza la maggior parte dei libri, né integralmente né in parte".
Poi ci sono le eccezioni. Llama 3.1 70B "memorizza interamente alcuni libri, come Harry Potter e la pietra filosofale". La memorizzazione è talmente estesa che, secondo l'abstract, "si può estrarre in modo deterministico l'intero libro quasi alla lettera usando le prime parole del libro come prompt iniziale". Il risultato dipende dal modello e dal libro, ed è proprio questo il punto: la memorizzazione non è una proprietà degli LLM in generale.
Se questo possa servire a qualcuno in tribunale resta una questione aperta. L'abstract afferma che i risultati "hanno implicazioni significative per i casi di copyright, anche se non orientate in modo inequivocabile a favore di una delle due parti".
Il problema dell'etichetta, sotto
I modelli di quello studio sono a pesi aperti. Si possono scaricare. Non è la stessa cosa di open source, e The Register lo ha sostenuto il 15 settembre 2026 in una rubrica di Steven J. Vaughan-Nichols. L'Open Source Initiative, custode della Open Source Definition, definisce i pesi aperti come "i pesi e i bias finali di una rete neurale addestrata", e aggiunge che i soli pesi espongono appena "una frazione delle informazioni necessarie per una piena responsabilità".
James Landay, direttore dello Stanford Institute for Human-Centered AI, ha spiegato la versione pratica a The Register: "I pesi aperti sono un progresso. Puoi scaricare il modello, farlo girare sulla tua macchina, tenerlo fuori dalla pipeline dati di qualcun altro. Ma continui a non vedere come è stato costruito, su cosa è stato addestrato, né perché si comporta così. Non è un modello aperto. È distribuzione aperta".
"I pesi aperti rispondono alla domanda 'posso eseguirlo?'. L'open source risponde a 'posso fidarmi, migliorarlo e costruirci sopra la prossima cosa?'"
Anche la seconda citazione è di Landay, dalla stessa rubrica del Register, che riporta le critiche alla Open Source AI Definition 1.0 dell'OSI da parte di Bruce Perens, Bradley Kuhn e Richard Fontana. Al rilascio della OSAID 1.0, nell'ottobre 2024, l'OSI aveva riconosciuto che la definizione sarebbe stata aggiornata nel tempo. Mike Dolan della Linux Foundation ha presentato la licenza Open Model, Data, and Weights, in circolazione dal 2025 con contributori indicati da Amazon, Meta, IBM, Microsoft e Nvidia, e quella proposta ha raccolto obiezioni sulla mailing list di revisione delle licenze dell'OSI.
Tutto questo conta per il risultato sulla memorizzazione. Se non puoi vedere i dati di addestramento, non puoi verificare in modo indipendente quali libri siano entrati, e il testo estratto resta la tua unica prova di ciò che è uscito.
Economici, vicini, difficili da eseguire
Mozilla ha pubblicato la versione 1.1 del suo rapporto State of Open Source AI il 15 settembre 2026, con dati aggiornati al 1° settembre, secondo Tom's Hardware. Mozilla è l'organizzazione non profit dietro Firefox e sostiene i modelli aperti; il rapporto si basa su un sondaggio Mozilla/SlashData su circa 1.400 sviluppatori, sui dati di traffico di OpenRouter e su indici di benchmark di terze parti. Conta 16 rilasci aperti rilevanti, e Tom's Hardware osserva che nessuno fornisce la ricetta dei dati richiesta dalla definizione OSI.
I numeri sulle capacità: il miglior modello aperto era dietro al leader dei modelli chiusi di tre punti sull'Artificial Analysis Intelligence Index, al 60% del prezzo, e due punti dietro Claude Fable 5 al 30%. L'adattamento di Mozilla sui dati METR relativi all'orizzonte dei compiti colloca il divario tra aperti e chiusi a circa 4,4 mesi, vicino alla stima di quattro mesi di Epoch AI. Secondo il calcolo di Mozilla, le capacità dei modelli aperti raddoppiano ogni 3,9 mesi, contro 5,5 per quelli chiusi.
Le avvertenze valgono quanto il titolo. Il divario di quattro mesi e la cifra del 30% sono misurati da API ad API su endpoint ospitati al prezzo di listino. Il grafico hardware di Mozilla colloca il miglior modello aperto che sta su un singolo server a 52,6 e il migliore su una singola GPU a 40, con cali di 10 e 23 punti rispetto al vertice, una forbice più ampia di quanto suggeriscano quattro mesi. Il checkpoint nativo MXFP4 di Kimi K3 occupa circa 1,56TB su 96 shard; la configurazione di serving di Mozilla elenca 64 o più acceleratori, e vLLM richiede almeno otto GPU GB300. Il rapporto lo definisce aperto ma non eseguibile dalla maggior parte di chi lo possiede.
Sul fronte della domanda, Mozilla ha contato otto dei primi dieci modelli per volume di token di agosto su OpenRouter come a pesi aperti, sette dei quali costruiti in Cina. I fornitori chiusi hanno comunque incassato il 96% dei ricavi del livello modello su OpenRouter da maggio a settembre 2025, secondo la Linux Foundation. Il CTO di Mozilla, Raffi Krikorian, ha detto ad Ars Technica via email che la scelta di pagare per i modelli chiusi sembra dipendere dal tipo di carico di lavoro, non dall'organizzazione.
Un ultimo filo. Il rapporto riporta, come "affermato e non dimostrato", un'accusa contenuta nell'avviso congiunto NSA/CISA/FBI AA26-251A dell'8 settembre, secondo cui Moonshot avrebbe estratto dati da Claude Fable 5 per addestrare Kimi K3 tramite distillazione. Non provato, e irrisolto.
Presi insieme, i due documenti descrivono lo stesso oggetto da estremità opposte. Un modello si può scaricare, mettere a punto e, in almeno un caso documentato, indurre con un prompt a riprodurre un romanzo quasi alla lettera. I dati di addestramento alle spalle, però, restano non documentati, non concessi in licenza come open source e, per i checkpoint più grandi, fuori portata per l'hardware che la maggior parte delle persone ha.
Fonti
3- 01Extracting memorized pieces of (copyrighted) books from open-weight language modelsEN
- 02Open weights are not open source: Why AI's favorite label is under disputeEN
- 03China's open-weight AI models are now just 4 months behind frontier US offerings, Mozilla report claimsEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.