Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Poids ouverts, recettes fermées : ce que montrent vraiment l'étude sur la mémorisation et la bataille des licences

Une étude présentée à COLM 2026 a mesuré ce que 14 modèles à poids ouverts avaient retenu de 200 livres. La plupart ne reproduisent pas la plupart des ouvrages. Mais avec Llama 3.1 70B, les premiers mots d'un livre suffisent à obtenir une sortie presque mot pour mot de certains titres. Le résultat tombe au milieu d'un débat sur ce que « ouvert » veut dire.

IA & modèlesAnalyseSophie LeclercPublié le: 27 septembre 20265 min de lectureSources 3
Poids ouverts, recettes fermées : ce que montrent vraiment l'étude sur la mémorisation et la bataille des licences

L'article s'intitule Extracting memorized pieces of (copyrighted) books from open-weight language models, arXiv:2505.12546, soumis le 18 mai 2025 et révisé jusqu'au 20 juillet 2026. Les auteurs sont A. Feder Cooper, Mark A. Lemley, Allison Casasola, Ahmed Ahmed, Aaron Gokaslan, Amy B. Cyphert, Christopher De Sa, Daniel E. Ho et Percy Liang. Il est accepté à COLM 2026.

Leur cible annoncée, c'est l'argumentation des procès. Dans les affaires de droit d'auteur liées à l'IA générative, écrivent-ils en résumé, les plaignants et les défendeurs « avancent souvent des affirmations catégoriques et opposées sur la mesure dans laquelle les grands modèles de langue (LLM) mémorisent l'expression protégée des livres présents dans leurs données d'entraînement ». Les deux camps, selon eux, « simplifient à l'excès le rapport entre mémorisation et droit d'auteur ».

Ils ont donc mis au point une technique de mesure et l'ont appliquée à grande échelle : 200 livres, 14 modèles à poids ouverts, plus de 3000 expériences. Le résultat principal contredit les accusations les plus fortes. « Avec notre méthodologie d'extraction spécifique, nous constatons que la plupart des LLM ne mémorisent pas la plupart des livres, ni en entier ni en partie. »

Puis viennent les exceptions. Llama 3.1 70B « mémorise entièrement certains livres, comme Harry Potter and the Sorcerer's Stone ». La mémorisation y est assez étendue pour que, selon le résumé, « on puisse extraire le livre entier de façon déterministe et presque mot pour mot en utilisant ses premiers mots comme invite initiale ». Le constat dépend du modèle et du livre, et c'est précisément l'argument : la mémorisation n'est pas une propriété des LLM en général.

Reste à savoir si cela aide qui que ce soit devant un tribunal. Le résumé laisse la question ouverte : les résultats « ont des implications importantes pour les affaires de droit d'auteur, sans toutefois favoriser clairement l'un ou l'autre camp ».

Le problème de l'étiquette, en dessous

Les modèles de cette étude sont à poids ouverts. On peut les télécharger. Ce n'est pas la même chose que l'open source, et The Register l'a défendu le 15 septembre 2026 dans une chronique de Steven J. Vaughan-Nichols. L'Open Source Initiative, gardienne de la définition de l'open source, définit les poids ouverts comme « les poids et biais finaux d'un réseau de neurones entraîné ». Elle précise que les poids seuls ne révèlent qu'« une fraction de l'information nécessaire à une redevabilité complète ».

James Landay, directeur du Stanford Institute for Human-Centered AI, en a donné la version pratique au Register : « Les poids ouverts sont un progrès. On peut télécharger le modèle, le faire tourner sur sa propre machine, le tenir hors du pipeline de données de quelqu'un d'autre. Mais on ne voit toujours pas comment la chose a été construite, sur quoi elle a été entraînée, ni pourquoi elle se comporte comme elle le fait. Ce n'est pas un modèle ouvert. C'est de la distribution ouverte. »

« Les poids ouverts répondent à la question : puis-je faire tourner ce modèle ? L'open source répond à celle-ci : puis-je lui faire confiance, l'améliorer et construire la suite dessus ? »

La seconde citation est aussi de Landay, tirée de la même chronique du Register, qui rapporte les critiques de Bruce Perens, Bradley Kuhn et Richard Fontana contre la définition Open Source AI 1.0 de l'OSI. L'OSI reconnaissait, lors de la publication de l'OSAID 1.0 en octobre 2024, que la définition continuerait d'évoluer. Mike Dolan, de la Linux Foundation, a déposé la licence Open Model, Data, and Weights, en circulation depuis 2025 avec des contributeurs venus d'Amazon, Meta, IBM, Microsoft et Nvidia. Ce dépôt a suscité des objections sur la liste de diffusion de l'OSI consacrée aux licences.

Cela compte pour le résultat sur la mémorisation. Sans accès aux données d'entraînement, impossible de vérifier par soi-même quels livres ont été utilisés. Le texte extrait reste la seule preuve de ce qui en est sorti.

Bon marché, proche, et difficile à faire tourner

Mozilla a publié la version 1.1 de son rapport State of Open Source AI le 15 septembre 2026, avec des données arrêtées au 1er septembre, selon Tom's Hardware. Mozilla est l'association à but non lucratif derrière Firefox et défend les modèles ouverts. Le rapport s'appuie sur une enquête Mozilla/SlashData auprès d'environ 1400 développeurs, sur les données de trafic d'OpenRouter et sur des indices de référence tiers. Il recense 16 sorties notables, et Tom's Hardware note qu'aucune ne fournit la recette des données qu'exige la définition de l'OSI.

Les chiffres de capacité : le meilleur modèle ouvert accusait trois points de retard sur le leader fermé à l'Artificial Analysis Intelligence Index, à 60 % du prix, et deux points derrière Claude Fable 5 à 30 %. L'ajustement de Mozilla sur les données de METR concernant l'horizon des tâches situe l'écart ouvert-fermé à environ 4,4 mois, proche de l'estimation de quatre mois d'Epoch AI. La capacité ouverte double tous les 3,9 mois selon le calcul de Mozilla, contre 5,5 mois pour les modèles fermés.

Les réserves valent autant que le titre. L'écart de quatre mois et le chiffre de 30 % sont mesurés d'API à API, sur des points de terminaison hébergés, au prix catalogue. Le propre graphique matériel de Mozilla place le meilleur modèle ouvert tenant sur un serveur à 52,6 et le meilleur sur un seul GPU à 40, soit des chutes de 10 et 23 points par rapport au sommet. Cet écart est plus large que ne le suggèrent quatre mois. Le checkpoint natif MXFP4 de Kimi K3 occupe environ 1,56 To répartis sur 96 fragments. La configuration de service de Mozilla liste 64 accélérateurs ou plus, et vLLM en demande au moins huit GPU GB300. Le rapport le qualifie d'ouvert, mais non exécutable par la plupart de ceux qui le détiennent.

Côté demande, Mozilla compte huit des dix premiers modèles par volume de tokens en août sur OpenRouter comme étant à poids ouverts, dont sept construits en Chine. Les fournisseurs fermés ont tout de même capté 96 % des revenus de la couche modèle sur OpenRouter entre mai et septembre 2025, selon la Linux Foundation. Raffi Krikorian, CTO de Mozilla, a écrit par courriel à Ars Technica que le choix de payer pour des modèles fermés semble dépendre de la charge de travail plutôt que de l'organisation.

Un dernier fil. Le rapport cite, comme « affirmé, et non démontré », une allégation de l'avis conjoint NSA/CISA/FBI AA26-251A du 8 septembre. Selon cet avis, Moonshot aurait extrait des données de Claude Fable 5 pour entraîner Kimi K3 par distillation. Non prouvé, et non résolu.

Pris ensemble, les deux documents décrivent le même objet par les deux bouts. Un modèle peut être téléchargé, affiné et, dans au moins un cas documenté, amené à reproduire un roman presque mot pour mot. Les données d'entraînement qui le sous-tendent restent pourtant non documentées, non concédées sous licence open source et, pour les plus gros checkpoints, hors de portée du matériel dont dispose la plupart des gens.

Commentaires 0

Sources

3
  1. 01Extracting memorized pieces of (copyrighted) books from open-weight language modelsEN
  2. 02Open weights are not open source: Why AI's favorite label is under disputeEN
  3. 03China's open-weight AI models are now just 4 months behind frontier US offerings, Mozilla report claimsEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.