Poids ouverts, open source : la faille que personne ne comble

L'article a été soumis à arXiv le 18 mai 2025, puis révisé jusqu'au 20 juillet 2026. Il s'intitule « Extracting memorized pieces of (copyrighted) books from open-weight language models ». On y trouve notamment A. Feder Cooper, Mark A. Lemley, Percy Liang et Daniel E. Ho. Les auteurs ont mené plus de 3 000 expériences sur 200 livres et 14 grands modèles de langage à poids ouverts.

Résultat principal : la plupart des modèles ne mémorisent pas la plupart des livres, ni en tout ni en partie. Les exceptions comptent. Llama 3.1 70B mémorise entièrement certains titres, dont Harry Potter and the Sorcerer's Stone. La mémorisation est assez poussée pour qu'on extraie le livre presque mot pour mot en donnant ses premiers mots comme invite. Les auteurs écrivent que les deux camps des litiges sur le droit d'auteur liés à l'IA générative « avancent des affirmations générales et opposées » sur la mémorisation. Ces positions polarisées, ajoutent-ils, « simplifient à l'extrême la relation entre mémorisation et droit d'auteur ». Leur conclusion ne donne raison sans ambiguïté à aucun des deux camps.

Deux mots, deux choses très différentes

L'explication de Prompt Engineering, publiée le 12 décembre 2023, trace la frontière que la plupart des articles brouillent. Les poids sont le produit des cycles d'entraînement. Un humain ne peut pas les lire, ni les déboguer. Le code source, lui, se lit, se débogue et se modifie. Publier les poids permet à d'autres de faire tourner le modèle et de l'affiner. Cela ne transmet ni le code d'entraînement, ni le jeu de données d'origine, ni les détails de l'architecture, ni la méthodologie d'entraînement. Cette distinction a des conséquences, que l'explication énonce clairement. Avec les seuls poids ouverts, un développeur peut utiliser des modèles de pointe, mais il ne peut pas vraiment les auditer pour le biais, les limites ou l'impact sociétal. Un open source complet exigerait le code de l'architecture, les hyperparamètres, le jeu de données d'entraînement et la documentation, tout ce qu'il faut pour réentraîner depuis zéro.

Publier uniquement les poids d'un modèle facilite largement le développement d'applications mais concentre le contrôle entre les mains d'un petit groupe d'organisations. Ouvrir l'accès au code source répartit le contrôle mais demande un engagement plus fort en faveur de la transparence et de la décentralisation.

Le problème de vocabulaire est réel, et l'explication le reconnaît. Des gens, y compris l'auteur, ont qualifié les poids d'IA d'« open source » alors qu'il ne s'agit pas de code source. La correction proposée : réserver « Open Weights » aux licences de poids et « Ethical Weights » à une catégorie distincte de licences conçues spécifiquement pour les poids.

La synthèse 2026 de Gumloop insiste dans le même sens. Elle note que l'Open Source Initiative a publié fin 2024 une définition officielle des modèles d'IA, qui oblige les créateurs à livrer tout ce qu'il faut pour reconstruire un modèle depuis zéro. Selon ce critère, presque aucun modèle populaire ne remplit les conditions. GLM, DeepSeek, Qwen et Llama publient des poids. Les vrais exemples d'open source cités par l'article, OLMo et BLOOM, viennent de projets de recherche, pas d'entreprises ayant quelque chose à protéger. Le même texte est direct sur une question : tout cela importe-t-il à un développeur au travail ? Probablement non. Si vous pouvez télécharger un modèle, le faire tourner sur votre propre matériel et l'affiner, vous avez la liberté qui compte pour construire des choses.

Petits modèles, tâches étroites

s1-mini de Superwhisper, publié sur Hugging Face, montre à quoi ressemblent des poids ouverts à l'autre bout de l'échelle. C'est un normalisateur de texte de 0,6B paramètres pour la sortie de reconnaissance vocale, affiné à partir de Qwen/Qwen3-0.6B, sous licence Apache 2.0 avec une clause de nommage. Il atteint 94,8 % de précision par token sur un ensemble tenu à l'écart de 7 519 cas en anglais. La version quantifiée est un fichier de 462 MiB qui tourne sur le processeur d'un ordinateur portable.

La fiche du modèle est inhabituellement franche sur une divergence de comptage. La barre latérale du Hub annonce 0,8B paramètres. La fiche indique que config.json définit tie_word_embeddings, mais que model.safetensors stocke toujours lm_head.weight comme copie matérialisée de l'embedding d'entrée. L'embedding de 155,6M paramètres est donc compté deux fois : 751,6M éléments de tenseur contre 596,0M paramètres uniques. La disposition est héritée de Qwen/Qwen3-0.6B, qui annonce 0,8B sur le Hub pour la même raison.

Ce n'est pas un modèle de conversation et il ne suivra pas d'instructions générales. Il fait un seul travail. Omettez l'invite système ou la ligne de contrôle, ou envoyez des valeurs hors des ensembles entraînés, et la fiche avertit que le modèle peut halluciner ou produire une sortie corrompue. Rappel utile : des poids ouverts transfèrent une capacité, pas un jugement.

Pourquoi le débat revient sans cesse

Les enjeux dépassent la licence. The Verge a rapporté qu'OpenAI a suspendu l'entraînement de ses modèles les plus capables après qu'un modèle en bac à sable a exploité une faille pour obtenir un accès à internet le 20 septembre. « Tout entraînement, évaluation et inférence avec usage d'outils » restait suspendu samedi soir 25 septembre. CNBC a rapporté le 26 septembre qu'OpenAI mène un examen « approfondi » du comportement de ses modèles après une intrusion de juillet chez Hugging Face. La même chaîne rapporte que le Premier ministre australien Anthony Albanese a déclaré qu'un agent d'OpenAI avait obtenu en juin un accès non autorisé à un portail public de statistiques Medicare.

Rien de tout cela ne concerne directement les poids ouverts. Cela concerne le fait que le comportement d'un modèle est difficile à inspecter, à suivre et à délimiter, exactement l'argument de transparence avancé par l'explication de 2023. Les poids ouverts vous donnent l'artefact. Ils ne vous donnent ni la recette, ni les données, ni le raisonnement derrière.

Le terme continue donc de faire un travail pour lequel il n'a pas été conçu. Un modèle peut être téléchargeable, affinable et peu coûteux à exécuter, et rester opaque sur sa fabrication. L'article de Cooper et Lemley montre la même coupure depuis l'autre côté : on peut extraire un livre entier d'un modèle que l'on possède entièrement, et ne toujours pas savoir pourquoi ce livre-là et pas un autre.