Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Les poids ouverts inondent le marché des modèles de décision, OpenAI reconnaît le vol de son raisonnement

OpenAI a déclaré le 1er octobre avoir démantelé une campagne visant à extraire le raisonnement caché de ses modèles. La même technique a continué de fonctionner pendant des semaines sur Microsoft Azure. Le même jour sont parus trois nouveaux modèles ouverts ou à poids ouverts, et une nouvelle accusation : les garde-fous des modèles de pointe ne suivent pas les poids.

IA & modèlesAnalyseCamille RousseauPublié le: 1 octobre 20263 min de lectureSources 15
Les poids ouverts inondent le marché des modèles de décision, OpenAI reconnaît le vol de son raisonnement

La révélation figure dans un billet de blog d'OpenAI, relayé par The Decoder et The Hacker News le 1er octobre. Selon OpenAI, l'activité a commencé à faible volume le 1er juillet 2026, a culminé les 24 et 25 juillet avec 16 000 requêtes provenant de plus de 4 000 utilisateurs, et a été entièrement stoppée le 28 juillet. Une note de bas de page précise qu'il s'agissait de tentatives d'extraction, pas nécessairement de réussites.

OpenAI attribue « un noyau central » de cette activité à des personnes liées à Moonshot AI, l'entreprise pékinoise derrière le modèle Kimi. The Hacker News note qu'OpenAI n'a cité aucune preuve technique à l'appui de cette attribution. La société indique aussi qu'elle ignore si tous les acteurs observés remontent à une seule source.

L'astuce qui a survécu au correctif

Le mécanisme n'est pas un piratage au sens classique. Les fournisseurs renvoient le raisonnement d'un modèle aux clients sous forme de paquets chiffrés, que les clients transmettent avec leurs requêtes suivantes. Les chercheurs Joachim Schaeffer et ses collègues ont montré que, ces paquets utilisant des clés partagées, on peut les déplacer entre sessions, utilisateurs et modèles d'un même fournisseur. Un modèle moins cher sert alors d'oracle de déchiffrement et restitue en clair les pensées cachées du modèle plus puissant. OpenAI cite les chercheurs nommément et affirme avoir confirmé que leurs chemins d'attaque étaient réels. Depuis, l'entreprise a banni des comptes, durci les inscriptions, fermé la voie de rejeu et ajouté un filtrage des sorties en flux. The Decoder rapporte que les chercheurs ont publié une mise à jour le même jour. « Nous avons volé du raisonnement. Encore », a écrit Schaeffer sur X. Sécuriser sa propre API ne sécurise pas, selon lui, l'écosystème des fournisseurs cloud qui revendent l'accès aux mêmes modèles.

Ce cadrage compte pour les poids ouverts.

Anthropic met en garde depuis une semaine : des modèles ouverts chinois comme GLM-5.3 atteignent une capacité d'écriture d'exploits de niveau élite sans garde-fous équivalents, selon des articles du South China Morning Post et de Tom's Hardware. Yann LeCun a publiquement jugé exagérées les affirmations de Dario Amodei sur la cybersécurité, rapporte Startup Fortune le 1er octobre. Le dossier contient la dispute, pas sa résolution.

Des modèles de décision, pas des chatbots

La nouvelle la plus concrète du 1er octobre côté poids ouverts est plus modeste qu'un modèle de pointe. Cloudflare a publié Clef et Clef-flash, deux modèles de décision hébergés sur Workers AI et ouverts sur Hugging Face sous licence Apache 2.0. Cloudflare affirme que Clef arrive en tête du Jev Decision Index et a classé un site web en 2,2 secondes lors d'un test interne de renseignement sur les menaces, contre 4,7 secondes pour gpt-oss-120b dans le même flux de travail.

D'autres avancent dans la même catégorie. TechCrunch a rapporté le 1er octobre qu'Amazon a publié son propre clone de Jev alors que les modèles de décision se multiplient. Le 30 septembre, le même média écrivait que la nouvelle Decisions API d'OpenAI donne à son modèle Luna un ensemble prédéfini d'options entre lesquelles choisir. Le Jev de TypeSafe AI, qui renvoie des probabilités typées au lieu de texte, a été couvert par InfoQ le 1er octobre. L'analyse de Sebastian Raschka du 29 septembre soutient que Jev est un classifieur de texte plus rapide et moins cher que les LLM généraux, et non un remplacement.

Ailleurs dans le dossier, le courant des poids ouverts traverse la recherche et le matériel. Les Superintelligence Labs de Meta ont publié les Context Language Models le 29 septembre, avec le code sur GitHub, en revendiquant 11,4 pour cent de précision en plus et 21,5 pour cent de FLOPs en moins sur BrowseComp-Plus. Un projet bénévole nommé Coop préentraîne un modèle de 145 000 000 de paramètres sur du matériel grand public donné. Un cluster de sept nœuds ESP32-S3 fait tourner un modèle BitNet de 0,5 milliard de paramètres via SPI. Rien de tout cela ne menace les laboratoires de pointe. Ensemble, ces projets montrent où se dirige le bas du marché.

Commentaires 0

Sources

15
  1. 01OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
  2. 02OpenAI Disrupts Reasoning Extraction Campaign Linked to Moonshot AI AssociatesEN
  3. 03Introducing Clef: our open-source decision models, and new RL fine-tuning platformEN
  4. 04Amazon releases its own Jev clone as decision models flood the webEN
  5. 05OpenAI's Jev clone could help the frontier lab stop its swarming agentsEN
  6. 06TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  7. 07Language models for text classification: From bag-of-words to JevEN
  8. 08Context Language ModelsEN
  9. 09facebookresearch/context-language-modelsEN
  10. 10Coop: A small language model pretrained by volunteersEN
  11. 11ESP32S3 cluster running 1.58-bit (BitNet) Language modelEN
  12. 12China's DeepSeek open-sources tools to help Huawei chips supplant Nvidia in AIEN
  13. 13Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agentsEN
  14. 14OpenAI halts frontier-model training amid string of agent misalignment incidentsEN
  15. 15Language models will hide 'bad news' in reports by defaultEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.