Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

OpenAI accuse Moonshot AI d'avoir mené une campagne de distillation, alors que les rivaux à poids ouverts réduisent l'écart

OpenAI a déclaré le 1er octobre avoir déjoué une campagne coordonnée visant à extraire le raisonnement de ses modèles. L'entreprise attribue un noyau central de l'activité à des personnes liées à Moonshot AI, le développeur chinois de Kimi. Selon elle, l'activité a bondi à 16 000 requêtes venues de plus de 4 000 utilisateurs en deux jours, fin juillet.

IA & modèlesAnalyseCamille RousseauPublié le: 1 octobre 20266 min de lectureSources 7
OpenAI accuse Moonshot AI d'avoir mené une campagne de distillation, alors que les rivaux à poids ouverts réduisent l'écart

CNBC a révélé l'information jeudi, et The Register l'a reprise le jour même en soulignant le calendrier : la même semaine, Anthropic rendait publiques ses propres accusations contre des développeurs chinois. OpenAI indique que l'activité a commencé début juillet et qu'elle a culminé les 24 et 25 juillet. La campagne était entièrement déjouée au 28 juillet.

Rien n'a été piraté.

OpenAI a déclaré à CNBC que les opérateurs n'ont pas cassé son chiffrement, ni compromis ses bases de données, ni accédé aux conversations stockées des utilisateurs. Selon l'entreprise, ils ont manipulé les interactions avec le modèle pour reproduire un raisonnement protégé sous une forme visible par le demandeur. The Register cite les mots mêmes d'OpenAI dans un billet de blog publié mercredi : « Les opérateurs n'ont pas cassé notre chiffrement, compromis une base de données ni obtenu un accès direct aux conversations stockées des utilisateurs. »

Ce que la distillation signifie vraiment ici

OpenAI qualifie la technique de « distillation adverse ». L'idée n'est pas nouvelle en apprentissage automatique : les sorties d'un modèle servent à en entraîner ou à en améliorer un autre. OpenAI décrit la version à grande échelle, où des requêtes massives sont conçues pour reproduire le raisonnement et les capacités d'un modèle plus grand, et pas seulement ses réponses finales. Extraire le raisonnement permettrait à un rival de reproduire un comportement avancé sans dépenser autant en entraînement et en travail sur la sécurité. L'entreprise présente la question comme un enjeu de sécurité et de sécurité nationale, pas seulement commercial.

The Register n'a pas mâché ses mots sur la perception. Son titre du 30 septembre qualifiait la plainte d'OpenAI d'ironique : OpenAI « a aspiré d'énormes quantités de contenu internet au milieu de batailles sur le droit d'auteur », rappelait-il, tout en traitant la distillation de ses propres modèles comme un risque de sécurité. C'est le contre-argument le plus fort de la couverture actuelle, et il faut le dire clairement : le même argument sur les données d'entraînement ne porte pas de la même façon selon qui le défend.

OpenAI affirme qu'on ne sait pas si tous les opérateurs impliqués appartenaient à un seul acteur. L'entreprise n'attribue qu'un « noyau central » à des personnes liées à Moonshot AI. Moonshot n'a pas répondu immédiatement aux demandes de commentaire de CNBC ni de The Register. The Register a aussi demandé à OpenAI quels modèles étaient visés, sans obtenir de réponse. Ce détail compte : la gravité d'une accusation de distillation dépend de ce qui a été copié.

« La distillation adverse présente des risques pour la sécurité et la sécurité nationale », a déclaré OpenAI mercredi. « Le raisonnement extrait pourrait servir à entraîner un autre modèle sans préserver les garde-fous appliqués aux sorties destinées aux utilisateurs du modèle d'origine. »

La bataille plus large autour des poids ouverts

L'accusation s'inscrit dans un changement plus vaste de la répartition des capacités d'IA. Les modèles à poids ouverts sont passés d'une habitude de publication de niche à une part sérieuse du trafic de production. Une couverture sectorielle récente, citée dans le flux de contexte du dossier, affirme que les modèles à poids ouverts ont traité pour la première fois la majorité des tokens d'IA, et que les factures de tokens poussent les charges de travail des entreprises vers ces options. Rien de tout cela ne vient des sources ci-dessous : à prendre comme une tendance, pas comme un chiffre vérifié.

Ce qui est vérifiable, c'est que la pression est réelle. Claude Opus 5.5 d'Anthropic, sorti une semaine avant le billet d'OpenAI, embarque une défense contre la distillation appelée « preserved thinking », introduite avec Fable 5.1, selon The Register. C'est une réponse au niveau du produit à un problème qui se situe au niveau de l'entraînement. Si les fabricants de modèles intègrent désormais des fonctions anti-extraction dans les modèles livrés, c'est qu'ils traitent la distillation comme un phénomène permanent, et non comme un incident isolé.

Il existe aussi une trace écrite du côté gouvernemental. The Register note que fin juillet, Michael Kratsios, assistant du président Donald Trump pour la science et la technologie, a accusé Moonshot AI d'avoir construit son modèle Kimi K3 en distillant Fable d'Anthropic. Cette affirmation précède d'environ deux mois le billet d'OpenAI et concerne le modèle d'une autre entreprise. Les accusations ne se limitent donc ni à un laboratoire ni à un incident.

Pendant ce temps, la pile à poids ouverts continue de livrer

Pendant que les laboratoires américains débattent de copie, l'écosystème des poids ouverts a publié un flux régulier de travaux cette semaine. Le pôle de recherche de Meta a publié Context Language Models, une méthode qui traite le contexte d'un modèle comme un fichier que le modèle met à jour lui-même. Le dépôt, signé par une équipe réunissant l'université de Washington, Meta Superintelligence Labs, le MIT et Trillium Labs, rapporte une précision supérieure de 11,4 pour cent avec 21,5 pour cent de FLOPs en moins sur BrowseComp-Plus, et une amélioration de 47,6 pour cent pour Qwen3.5-9B sur le même benchmark après apprentissage par renforcement en ligne, avec 12 pour cent de FLOPs en moins.

Par ailleurs, l'UK AI Security Institute et Meridian Labs ont publié Inspect, un cadre d'évaluation open source pour les modèles de frontière. Inspect est livré avec plus de 200 évaluations prêtes à l'emploi et permet d'exécuter des agents externes arbitraires, comme Claude Code, Codex CLI et Gemini CLI, dans un bac à sable. C'est le genre d'infrastructure qui rend moins coûteux les tests indépendants des modèles à poids ouverts, ce qui est gênant pour quiconque soutient que le transfert de capacités devrait être restreint.

Il y a aussi un volet bénévole. Un projet appelé Coop pré-entraîne un petit modèle sur du matériel grand public donné et des offres gratuites. Les pseudo-gradients sont soumis sous forme de pull requests Hugging Face et agrégés par une tâche cron GitHub Actions sans état. Sa première phase, un modèle de 15 millions de paramètres sur TinyStories, a terminé au-delà de son budget optimal de Chinchilla en six jours, avec une perte de validation passée de 9,01 à 2,8. C'est petit. C'est aussi la preuve que la boucle d'entraînement peut tourner sans centre de données.

Et un modèle non-transformer appelé PSSA, écrit de zéro en Rust, revendique une inférence en temps linéaire avec une couche récurrente d'espace d'états et une banque de mémoire épisodique. Le dépôt du projet affirme qu'il génère du texte environ douze fois plus vite qu'un transformer équivalent sur le même processeur et apprend plus vite à paramètres égaux. Sa chaîne d'entraînement dépend encore de DeepSpeed, une limite que les auteurs reconnaissent. À considérer ces chiffres comme des affirmations du projet, et non comme des résultats vérifiés indépendamment.

Pourquoi l'accusation est difficile à trancher

Le plus inconfortable, c'est que les deux camps peuvent pointer des comportements réels. OpenAI peut pointer 16 000 requêtes en deux jours venues de plus de 4 000 utilisateurs, un schéma qui, selon l'entreprise, violait ses conditions d'utilisation. Les critiques peuvent pointer la généalogie des données d'entraînement de chaque modèle de frontière construit aux États-Unis. Aucun de ces faits n'annule l'autre, et le dossier ne contient pas assez de détails pour déterminer quel modèle était visé ni quelle part de capacités a réellement été transférée.

OpenAI affirme avoir banni les comptes, resserré les contrôles d'inscription et d'infrastructure, élargi la surveillance et fermé une voie qui permettait de rejouer le raisonnement chiffré d'un autre utilisateur pour en récupérer le contenu. L'entreprise a partagé ses conclusions via le Frontier Model Forum et les canaux gouvernementaux de partage d'informations. Ce sont des mesures concrètes. Elles décrivent une défense contre l'extraction, pas un remède à l'économie sous-jacente : tant que la distillation coûtera moins cher que l'entraînement, quelqu'un tentera de la pratiquer.

Commentaires 0

Sources

7
  1. 01AI race heats up as OpenAI flags alleged model-copying campaignEN
  2. 02Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  3. 03Context Language Models (CLMs)EN
  4. 04Inspect: An open-source framework for large language model evaluationsEN
  5. 05Coop: A small language model pretrained by volunteersEN
  6. 06PSSA: A non-transformer language model written from scratch in RustEN
  7. 07OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.