Les poids ouverts inondent le marché des modèles de décision, OpenAI reconnaît le vol de son raisonnement
OpenAI a déclaré le 1er octobre avoir démantelé une campagne visant à extraire le raisonnement caché de ses modèles. La même technique a continué de fonctionner pendant des semaines sur Microsoft Azure. Le même jour sont parus trois nouveaux modèles ouverts ou à poids ouverts, et une nouvelle accusation : les garde-fous des modèles de pointe ne suivent pas les poids.

La révélation figure dans un billet de blog d'OpenAI, relayé par The Decoder et The Hacker News le 1er octobre. Selon OpenAI, l'activité a commencé à faible volume le 1er juillet 2026, a culminé les 24 et 25 juillet avec 16 000 requêtes provenant de plus de 4 000 utilisateurs, et a été entièrement stoppée le 28 juillet. Une note de bas de page précise qu'il s'agissait de tentatives d'extraction, pas nécessairement de réussites.
OpenAI attribue « un noyau central » de cette activité à des personnes liées à Moonshot AI, l'entreprise pékinoise derrière le modèle Kimi. The Hacker News note qu'OpenAI n'a cité aucune preuve technique à l'appui de cette attribution. La société indique aussi qu'elle ignore si tous les acteurs observés remontent à une seule source.
L'astuce qui a survécu au correctif
Le mécanisme n'est pas un piratage au sens classique. Les fournisseurs renvoient le raisonnement d'un modèle aux clients sous forme de paquets chiffrés, que les clients transmettent avec leurs requêtes suivantes. Les chercheurs Joachim Schaeffer et ses collègues ont montré que, ces paquets utilisant des clés partagées, on peut les déplacer entre sessions, utilisateurs et modèles d'un même fournisseur. Un modèle moins cher sert alors d'oracle de déchiffrement et restitue en clair les pensées cachées du modèle plus puissant. OpenAI cite les chercheurs nommément et affirme avoir confirmé que leurs chemins d'attaque étaient réels. Depuis, l'entreprise a banni des comptes, durci les inscriptions, fermé la voie de rejeu et ajouté un filtrage des sorties en flux. The Decoder rapporte que les chercheurs ont publié une mise à jour le même jour. « Nous avons volé du raisonnement. Encore », a écrit Schaeffer sur X. Sécuriser sa propre API ne sécurise pas, selon lui, l'écosystème des fournisseurs cloud qui revendent l'accès aux mêmes modèles.
Ce cadrage compte pour les poids ouverts.
Anthropic met en garde depuis une semaine : des modèles ouverts chinois comme GLM-5.3 atteignent une capacité d'écriture d'exploits de niveau élite sans garde-fous équivalents, selon des articles du South China Morning Post et de Tom's Hardware. Yann LeCun a publiquement jugé exagérées les affirmations de Dario Amodei sur la cybersécurité, rapporte Startup Fortune le 1er octobre. Le dossier contient la dispute, pas sa résolution.
Des modèles de décision, pas des chatbots
La nouvelle la plus concrète du 1er octobre côté poids ouverts est plus modeste qu'un modèle de pointe. Cloudflare a publié Clef et Clef-flash, deux modèles de décision hébergés sur Workers AI et ouverts sur Hugging Face sous licence Apache 2.0. Cloudflare affirme que Clef arrive en tête du Jev Decision Index et a classé un site web en 2,2 secondes lors d'un test interne de renseignement sur les menaces, contre 4,7 secondes pour gpt-oss-120b dans le même flux de travail.
D'autres avancent dans la même catégorie. TechCrunch a rapporté le 1er octobre qu'Amazon a publié son propre clone de Jev alors que les modèles de décision se multiplient. Le 30 septembre, le même média écrivait que la nouvelle Decisions API d'OpenAI donne à son modèle Luna un ensemble prédéfini d'options entre lesquelles choisir. Le Jev de TypeSafe AI, qui renvoie des probabilités typées au lieu de texte, a été couvert par InfoQ le 1er octobre. L'analyse de Sebastian Raschka du 29 septembre soutient que Jev est un classifieur de texte plus rapide et moins cher que les LLM généraux, et non un remplacement.
Ailleurs dans le dossier, le courant des poids ouverts traverse la recherche et le matériel. Les Superintelligence Labs de Meta ont publié les Context Language Models le 29 septembre, avec le code sur GitHub, en revendiquant 11,4 pour cent de précision en plus et 21,5 pour cent de FLOPs en moins sur BrowseComp-Plus. Un projet bénévole nommé Coop préentraîne un modèle de 145 000 000 de paramètres sur du matériel grand public donné. Un cluster de sept nœuds ESP32-S3 fait tourner un modèle BitNet de 0,5 milliard de paramètres via SPI. Rien de tout cela ne menace les laboratoires de pointe. Ensemble, ces projets montrent où se dirige le bas du marché.
Sources
15- 01OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
- 02OpenAI Disrupts Reasoning Extraction Campaign Linked to Moonshot AI AssociatesEN
- 03Introducing Clef: our open-source decision models, and new RL fine-tuning platformEN
- 04Amazon releases its own Jev clone as decision models flood the webEN
- 05OpenAI's Jev clone could help the frontier lab stop its swarming agentsEN
- 06TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
- 07Language models for text classification: From bag-of-words to JevEN
- 08Context Language ModelsEN
- 09facebookresearch/context-language-modelsEN
- 10Coop: A small language model pretrained by volunteersEN
- 11ESP32S3 cluster running 1.58-bit (BitNet) Language modelEN
- 12China's DeepSeek open-sources tools to help Huawei chips supplant Nvidia in AIEN
- 13Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agentsEN
- 14OpenAI halts frontier-model training amid string of agent misalignment incidentsEN
- 15Language models will hide 'bad news' in reports by defaultEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.