Les petits modèles passent en local : nouveaux outils et poids ouverts de 501 milliards de paramètres

Reflection a présenté Beam, son premier modèle à poids ouverts, le 5 octobre.

L'architecture sparse Mixture-of-Experts compte 501 000 000 000 de paramètres au total, dont 23 000 000 000 actifs. Elle est conçue pour le code, le raisonnement et les charges de travail agentiques. Selon le blog de l'entreprise, Beam a été pré-entraîné sur 23 800 000 000 000 de tokens. Le cycle d'apprentissage par renforcement à fort calcul a produit plus de 100 000 000 de rollouts sur 10 500 GPU NVIDIA GB300 en quatre semaines.

L'argument de l'inférence locale

Beam vise l'efficacité d'inférence plutôt que la taille brute.

L'entreprise affirme obtenir des scores comparables à GLM-5.2 en utilisant 3 à 4 fois moins de calcul d'inférence. Il approche Qwen 3.8-Max sur les tâches de code. Là où des modèles de pointe comme Kimi K3 restent devant en capacité brute, l'avantage de Beam tient au coût par token. Les poids ne sont pas encore publics : ils passent par une phase finale de red-teaming. Reflection publiera les poids, le rapport technique et la fiche du modèle plus tard ce mois-ci.

Cette sortie arrive au moment où une vague d'outils rend les modèles vraiment petits, ceux qui tournent dans la plage de 8 000 000 000 à 35 000 000 000 de paramètres, utilisables au quotidien pour le développement. La tendance ne se résume pas à une question d'argent. Elle concerne la latence, la confidentialité et la possibilité de faire tourner des agents sur du matériel que l'on possède.

Des outils qui corrigent l'expérience des petits modèles

Reika est un agent de code en ligne de commande pensé d'abord pour les petits modèles locaux. Il cible les modèles de 8 000 000 000 à 35 000 000 000 de paramètres, souvent quantifiés en Q2 à Q4, sur des fenêtres de contexte de 16 000 à 32 000 tokens. Le README, publié le 5 octobre, note que le harnais ménage le contexte et échoue plus proprement. Il dit quand il est bloqué. Le projet est en pré-1.0, donc les commandes et les réglages peuvent encore changer. Lors des tests, les modèles de 14 000 000 000 à 35 000 000 000 de paramètres ont géré le plus sûrement les tâches multi-fichiers. Ceux de 8 000 000 000 à 9 000 000 000 de paramètres s'en sortaient sur des tâches simples et bien délimitées. En dessous de 7 000 000 000, ils allaient rarement loin.

Les développeurs ont publié leurs résultats dans docs/findings.md.

Une seule réécriture en milieu de contexte a retraité 8 453 tokens de prompt, coûtant 7,9 minutes de prefill. Un ajout dans la même session a coûté 25 tokens et 3,5 secondes. La gestion du contexte par le harnais a coûté plus cher que le modèle. Ils ont aussi constaté que la formulation du prompt est le levier le plus faible. Sur une tâche vague en Q2, un modèle converge ou part en vrille à peu près une fois sur deux, et le harnais ne peut pas déplacer ce taux. Il peut seulement réduire le coût de la moitié qui échoue.

Jeff-Code prend une autre voie. C'est un fork de Pi, l'agent de code de Mario Zechner. Il place Jeff, un modèle de décision de 800 000 000 de paramètres, dans la boucle de l'agent. Autour de chaque tour de Qwen, Jeff prend deux décisions rapides d'environ 0,2 seconde chacune. Il décide s'il peut faire lui-même l'étape suivante, comme lire un fichier ou lancer des tests. L'écriture et la modification de fichiers restent toujours au modèle plus grand. Il décide aussi si Qwen doit réfléchir intensément. La réflexion reste désactivée sauf si la probabilité calculée par Jeff que le tour exige une réflexion complète atteint 0,6. Dans l'évaluation, environ trois quarts des tours de Qwen ont tourné sans réflexion.

Les résultats sont précis. Sur des tâches appariées, Jeff-Code atteint un taux de réussite de 62,4 % contre 62,8 % pour Qwen 3.8-27B seul. L'écart apparié est de moins 0,2 point, avec un intervalle à 95 % allant de moins 2,6 à plus 2,1. Le temps par tâche tombe à 0,68 fois la référence. Le temps total de toutes les tâches réunies est de 0,86 fois. C'est une accélération de 47 %, soit 32 % de temps en moins, à taux de réussite égal. L'accélération est moins nette sur Terminal-Bench 2.0, où le ratio est de 0,96.

Modèles de décision et nouvelle architecture

Liquid AI a présenté d1, son premier modèle de décision, qui prend désormais en charge le texte et les images.

Un modèle de décision répond à des questions sur une situation par une probabilité pour chaque réponse possible. Il prend en entrée des données non structurées et une ou plusieurs questions, les lit en une seule passe avant, et renvoie des probabilités sans générer de tokens. Une décision sur du texte prend 200 à 300 millisecondes. Liquid AI a testé d1 face à GPT-6.1 Sol et Claude Opus 5.5 sur six applications réelles. d1 égale ou dépasse GPT-6.1 Sol sur quatre d'entre elles. Il coûte 19 à 200 fois moins cher que les deux modèles et répond nettement plus vite sur chaque tâche.

Sean Goedecke, qui a écrit sur le modèle System One Jev, soutient que ces modèles peuvent entraîner leurs propres remplaçants. Une fois satisfait du comportement d'un classifieur Jev, on peut collecter ses données d'entrée et de sortie. On entraîne ensuite un classifieur spécifique, construit à la main, sur ces données. Ce ne sera pas un classifieur général, mais il devrait bien fonctionner sur la tâche précise et être beaucoup plus rapide. Ce schéma, distiller un modèle de système un général en un classifieur spécialisé, devrait devenir courant.

Interfaze AI a publié Interfaze 1 Lite, un modèle à architectures mixtes pour les charges de travail des développeurs. Ce n'est pas un seul réseau. C'est un cœur de raisonnement plus des spécialistes, chacun choisi pour la tâche où il excelle. Le modèle entier tourne sur un seul GPU de 80 GB, sans service externe. Il traite la compréhension de documents, la transcription vocale, l'ancrage visuel et la sortie structurée. Un enregistrement de 95 minutes se transcrit en environ 90 secondes. Il prend en charge 14 langues pour le raisonnement multilingue avec un contexte de 131 000 tokens. Il obtient 83,8 sur olmOCR-Bench et 81,5 sur le Structured Output Benchmark.

Inférence sur appareil et confidentialité

La poussée vers les modèles locaux ne tient pas qu'aux performances. Elle tient au fait que les données restent sur l'appareil.

Dictate est une application de notes vocales pour iPhone et Apple Watch qui tourne entièrement sur l'appareil. Elle utilise Parakeet, un modèle vocal ouvert, pour transcrire 25 langues européennes. Apple Intelligence produit une version lisible sur l'iPhone, en retirant les mots de remplissage et en résolvant les corrections dictées à voix haute. L'audio ne quitte jamais le téléphone. Il n'y a ni serveur, ni compte, ni analyse d'usage. Le seul endroit où une transcription peut aller est un webhook défini par l'utilisateur, s'il est activé.

JeffyClassify propose des classifieurs de texte en 51 langues qui tournent sur un CPU. Les classifieurs multilingues utilisent un encodeur de phrases multilingue. Chaque classifieur fait environ 100 KB. L'encodeur est partagé. Ils ont été entraînés sur Amazon MASSIVE en 22 minutes sur un CPU. Il existe aussi des classifieurs spécialisés pour des tâches comme la détection de spam SMS, qui atteint 99,1 % de précision, et la classification en temps réel de parties de Doom par régression logistique, sans réseau de neurones ni GPU.

Contexte et arrière-plan

Ces développements s'inscrivent dans un mouvement plus large. Le Python Language Summit 2026 a discuté de Rust pour CPython, un projet visant à améliorer les performances et la sûreté. David Hewitt, qui y intervient comme ambassadeur du projet, a noté que le nombre de problèmes de plantage liés aux types dans CPython augmente régulièrement. Rust pourrait aider à les atténuer. La proposition est de demander aux distributeurs de Python d'essayer un support Rust optionnel dans Python 3.16, attendu en octobre 2027. Ce travail d'infrastructure technique soutient l'écosystème sur lequel reposent les petits modèles.

En parallèle, une étude de l'UC Riverside menée par Het Patel a montré que la confiance et l'exactitude dans les grands modèles de langage proviennent de caractéristiques internes différentes. Cela remet en cause l'idée que la confiance d'un modèle soit un indicateur fiable de sa précision. En identifiant ces caractéristiques, les chercheurs peuvent ajuster les modèles pour qu'ils soient plus prudents lorsqu'ils risquent de se tromper. C'est un pas vers des petits modèles locaux plus dignes de confiance dans des rôles de décision.

La communauté open source réagit aussi aux nouveaux modèles vidéo. MiniMax a publié les poids du modèle H3 le 3 août. Il a atteint le sommet de la liste des tendances de Hugging Face trois jours plus tard. H3 est un modèle vidéo, mais sa sortie a mis en avant la valeur des poids ouverts dans l'écosystème de l'IA. Les développeurs peuvent télécharger, déployer, quantifier et modifier le modèle. C'est cet esprit d'accès ouvert qui rend possible la vague actuelle de modèles petits, locaux et embarqués.

Pour les développeurs, le choix est clair. Si vous avez besoin de la capacité de pointe, vous utilisez les grands modèles hébergés. Si vous avez besoin de vitesse, de confidentialité ou de maîtrise des coûts, vous utilisez les petits modèles locaux. Les outils qui rendent la seconde option viable arrivent enfin.