Un élu américain interroge OpenAI, Anthropic et trois concurrents sur le vol de poids de modèles
Le député Ro Khanna a écrit aux dirigeants d'OpenAI, d'Anthropic, de Google, de Meta et de SpaceX. Il veut savoir ce qu'ils savent des tentatives de la Chine ou d'autres acteurs hostiles de dérober les poids de leurs modèles, rapporte Reuters le 1er octobre.

Les courriers demandent aussi à chaque entreprise de décrire les mesures de cybersécurité qu'elle emploie pour empêcher ce type de vol, selon The Next Web. Ro Khanna représente une partie de la Silicon Valley. Il est le démocrate le mieux placé au sein de la commission restreinte de la Chambre sur la Chine.
« Le vol d'un tel poids de modèle par (la Chine) pourrait éroder l'avance des États-Unis en matière d'IA d'un simple coup de clavier », écrit-il, selon Reuters. Les entreprises et l'ambassade de Chine à Washington n'ont pas répondu dans l'immédiat aux demandes de commentaire de Reuters.
Ce que sont réellement les poids d'un modèle
Les poids d'un modèle sont les nombres appris pendant l'entraînement qui font fonctionner une IA. Quiconque les détient peut faire tourner une copie du modèle. C'est pourquoi ils se trouvent au centre du différend actuel entre les laboratoires américains et leurs rivaux chinois. Le même jour, Ro Khanna a écrit à trois laboratoires chinois : DeepSeek, Alibaba et Moonshot AI. Il a aussi adressé une lettre à la communauté du renseignement américain, pour lui demander comment elle gère les risques liés à l'IA avancée.
« On ne peut pas faire confiance aux milliardaires de la tech de la Silicon Valley pour écrire les règles qui nous protègent », a déclaré Ro Khanna à Reuters.
Le calendrier n'a rien d'un hasard. OpenAI a annoncé le 1er octobre avoir identifié et démantelé une campagne coordonnée visant à extraire le raisonnement protégé de ses modèles. L'entreprise a rattaché un noyau central de cette activité à Moonshot AI, le développeur de Kimi, rapporte CNBC. L'activité a commencé début juillet. Elle a ensuite bondi à 16 000 requêtes émises par plus de 4 000 utilisateurs en deux jours. OpenAI affirme avoir entièrement démantelé la campagne au 28 juillet.
OpenAI a qualifié l'opération de « distillation adverse ». Il s'agit d'une technique qui consiste à utiliser les sorties ou le raisonnement d'un modèle pour en entraîner ou en améliorer un autre. L'entreprise assure que les opérateurs n'ont pas franchi son chiffrement, ses bases de données ni les conversations d'utilisateurs stockées. Ils ont en revanche manipulé les interactions avec le modèle pour que le raisonnement caché puisse être reproduit sous une forme visible par le demandeur. OpenAI indique ne pas savoir si tous les opérateurs étaient liés à un même acteur. L'entreprise a partagé ses conclusions via le Frontier Model Forum et les canaux gouvernementaux d'échange d'informations. Moonshot n'a pas répondu dans l'immédiat aux demandes de commentaire de CNBC.
La lecture sceptique
The Register s'est montré plus direct le 30 septembre. Le site rappelle qu'OpenAI a « aspiré d'énormes quantités de contenus sur internet au milieu de batailles sur le droit d'auteur », alors qu'il qualifie aujourd'hui de risque pour la sécurité nationale la distillation de ses propres sorties. Le même article cite Michael Kratsios, conseiller scientifique et technologique du président américain Donald Trump. Fin juillet, il a accusé Moonshot AI d'avoir construit son modèle Kimi K3 en distillant Fable d'Anthropic. Claude Opus 5.5 d'Anthropic, sorti il y a une semaine, embarque une défense contre la distillation appelée « preserved thinking ».
Reste à savoir quelle part de tout cela est démontrée. OpenAI et Anthropic ont tous deux accusé des entreprises chinoises, dont Moonshot AI et DeepSeek, de distillation. Mais les cas de vol de poids de modèles publiquement connus sont rares, note The Next Web.
L'attention se déplace aussi vers la politique. Lors de la journée développeurs d'OpenAI, le 30 septembre, Sam Altman a déclaré que l'entreprise n'entrerait pas en Bourse tant qu'elle ne pourrait pas « prendre des décisions de sécurité avec assurance ». Une introduction pourrait valoriser la société jusqu'à 1 400 000 000 000 de dollars, rapporte la BBC. Le même jour, Donald Trump, qui rencontrait des dirigeants de la tech, a répété que les entreprises d'IA devaient s'autoréguler.
Sources
5- 01US lawmaker asks five AI firms how they guard model weights from ChinaEN
- 02AI race heats up as OpenAI flags alleged model-copying campaignEN
- 03Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
- 04OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN
- 05OpenAI announces 'dots' agent after scrapping launch of new AI model over safety concernsEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.