Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Xiaomi a entraîné son modèle en direct et dépensé 3,5 millions de dollars en six jours

MiMo-V2.6-Pro compte 1,02 billion de paramètres, dont 42 milliards actifs. Cet entraînement public en direct lui a valu 46 points à l'indice Artificial Analysis et la première place parmi les modèles ouverts.

IA & modèlesActualitéSophie LeclercPublié le: 23 septembre 20265 min de lectureSources 2
Xiaomi a entraîné son modèle en direct et dépensé 3,5 millions de dollars en six jours

Xiaomi a transformé l'entraînement de son modèle en spectacle public. Pendant six jours, l'entreprise a diffusé en direct un apprentissage par renforcement, avec un compteur de dépenses qui grimpait en temps réel. Comme le rapporte le portail chinois Liangziwei, les deux modèles, MiMo-V2.6-Pro et MiMo-V2.6-Flash, ont chacun terminé 30 étapes d'entraînement. La facture finale s'est arrêtée à 3,5 millions de dollars, soit environ 23,44 millions de yuans.

Le détail des coûts montre à quel point l'apprentissage par renforcement à grande échelle est cher aujourd'hui. Le Pro seul a demandé 5 jours et 3 heures, pour environ 2,6 millions de dollars. Le Flash, lui, a tourné 3 jours et 10 heures pour environ 0,9 million de dollars. Chaque étape contenait 1568 prompts, et pour chaque tâche le modèle essayait 16 trajectoires différentes, ce qui donnait plus de 25 000 exécutions par étape. Avec 2,7 à 3,7 milliards de tokens d'entraînement par étape, le Pro a traité au total environ 81 à 111 milliards de tokens sur l'ensemble de son entraînement. Selon le calcul du portail, cela représente le volume de plus de 80 000 fenêtres de contexte d'un million de tokens.

Résultat et comparaison avec le frontier

MiMo-V2.6-Pro compte 1,02 billion de paramètres, dont 42 milliards actifs, et a obtenu 46 points à l'indice d'intelligence Artificial Analysis, ce qui le place premier parmi les modèles ouverts. Dans la plupart des tests agentiques, le score du Pro s'approche de Claude Opus 5 et de GPT-5.6 Sol. La responsable du projet MiMo, Luo Fuli, avait auparavant travaillé sur DeepSeek-R1. Elle a qualifié l'opération de l'un des plus grands entraînements par renforcement jamais menés par l'équipe d'un modèle ouvert. Le défi d'ingénierie, a-t-elle ajouté, dépassait celui dont elle se souvient pour DeepSeek-R1.

L'ouverture comme stratégie, pas comme geste

En parallèle, Xiaomi publie les détails de l'architecture. MiMo-V3 repose sur la solution HySparse2, optimisée pour les tâches agentiques longues et à plusieurs étapes : partage KV à deux niveaux, sélection clairsemée des tokens et sortie anticipée de la phase préliminaire. La charge de calcul de la phase préliminaire tombe ainsi à un cinquième de la valeur de la solution HySparse avec fenêtre d'attention hybride, et le KV cache passe de 12 GB à 2,7 GB pour un contexte d'un million de tokens. Selon Xiaomi, la capacité de recherche dans de longs textes ne baisse pas, elle augmente.

C'est exactement la même direction que celle visible dans la famille DeepSeek : les modèles chinois rivalisent aujourd'hui non pas sur le sommet des paramètres, mais sur le coût de maintien d'un long contexte. Pour l'utilisateur final, un autre point compte : les poids sont ouverts, donc les résultats n'ont pas à être pris sur parole.

Commentaires 0

Sources

2
  1. 016 天烧光 2000 多万,拿下开源第一!小米史无前例「炼丹直播」收官 (量子位)ZH
  2. 02小米公开 MiMo-V3 核心架构 HySparse2 (IT之家, tag AI)ZH

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.