Les petits modèles passent en local, les laboratoires de pointe reculent

Liquid AI a mis en ligne le 29 septembre la documentation de d1, son premier modèle de décision. Ses propres documents décrivent une classe de modèles qui « évalue une situation et renvoie des probabilités calibrées sur un ensemble fixe de résultats, en un seul appel et sans générer le moindre token ». Trois types de questions sont pris en charge : noul (oui/non), choice (choisir une option parmi plusieurs) et score (une position pondérée par les probabilités sur une grille ordonnée).

Le même jour, Hugging Face a référencé Qevi-2B, un fine-tuning complet de Qwen3-VL-2B-Instruct. Ce modèle répond à des questions typées sur des images en lisant ses propres logits plutôt qu'en générant du texte. La fiche annonce une exactitude de 0,977 en domaine, contre 0,855 pour le modèle de base, de 0,889 sur des domaines tenus à l'écart, contre 0,745, et une erreur de calibration attendue de 0,054 contre 0,160. Elle revendique aussi une inférence jusqu'à environ 21 fois plus rapide quand de nombreuses questions portent sur une seule image. La fiche est catégorique sur la contrainte : « Ce modèle doit être utilisé via une lecture de logits, pas via .generate(). »

C'est la thèse du petit modèle sous sa forme la plus concrète. Pas un chatbot réduit, mais un composant qui renvoie un nombre sur lequel un programme peut brancher.

Ce que le petit segment apporte vraiment

Un guide éditeur publié par ailoitte le 29 septembre pose l'économie du sujet : servir un modèle 7B peut coûter 10 à 30 fois moins cher en latence, en énergie et en calcul qu'un modèle de 70B à 175B, et l'auto-hébergement supprime les frais d'API au token. Il cite MarketsandMarkets, qui estime le marché mondial des petits modèles de langage à 930 000 000 USD en 2025, pour atteindre 5 450 000 000 USD en 2032, à un taux de croissance annuel composé de 28,7 %. Le même guide conseille de partir d'un modèle ouvert comme Phi-4-mini, Gemma, Llama 3.2 ou Ministral 3 et de l'affiner avec LoRA plutôt que de construire à partir de zéro. Le 29 septembre, la Fondation Gates a annoncé un objectif de cinq ans, soutenu par 60 signataires initiaux : aider environ 3 400 000 000 de personnes qui parlent des langues sous-représentées dans les modèles actuels à utiliser l'IA dans leur propre langue et avec leur propre voix. La fondation note qu'un faible pourcentage seulement des quelque 7 000 langues du monde dispose de ressources suffisantes pour porter de solides capacités d'IA. Des modèles petits et déployables localement sont une voie plausible vers cet objectif, même si l'annonce ne s'engage sur aucune architecture précise.

Toujours le 29 septembre, LLM Reference a publié un classement des petits modèles de moins de 10B paramètres, ordonné par MMLU-Pro, puis GPQA Diamond, MMLU et HellaSwag. Le site signale un résultat comme provenant d'une source unique : MiniMax M2.7 aurait obtenu 80,4 % sur MMLU-Pro, soit plus de cinq points au-dessus du score suivant disponible en général, à 56,0 %. Le site a rétrogradé le modèle d'un rang en attendant qu'une autre source le confirme. Ce type de réserve vaut plus que le classement lui-même.

La vague de la classification est réelle, et désordonnée

Sebastian Raschka a publié le 29 septembre une longue histoire technique de la classification de textes, des sacs de mots et de la régression logistique jusqu'à ce qu'il appelle les API de type Jev. Il précise clairement qu'il n'a aucun lien avec Jev, qu'on ne lui a pas offert d'accès gratuit et qu'il ne fait pas la promotion du produit. Son évaluation : « Bien sûr, les derniers GPT et LLM à poids ouverts à la pointe peuvent accomplir les mêmes types de tâches de classification que Jev, tout en étant capables de bien plus en matière de décision générale. Mais l'avantage de Jev, c'est qu'il traite ces tâches de classification beaucoup plus vite et pour beaucoup moins cher. »

L'écosystème autour de cette idée est déjà encombré. PostHog a publié Jeeves le 29 septembre, un modèle de type Jev de 9B construit sur Qwen3.5-9B avec un LoRA et une tête pointeur, entraîné avec CISPO. Sa page GitHub rapporte 0,889 sur des données de test hors domaine et tenues à l'écart, contre 0,857 pour Jev et 0,822 pour Kev-9B, et 0,935 sur les niveaux publics de JevBench, contre 0,866 pour Jev. Il tourne à environ 0,3 seconde par requête sans réflexion, et à une médiane de 3,3 secondes avec, sur un H100 en précision FP8.

Tous les tests indépendants ne flattent pas la catégorie. Casco a publié un benchmark CVSS le 28 septembre, en échantillonnant 2 449 constats de sécurité passés dans huit modèles. Tous les modèles ont obtenu en moyenne un score supérieur à la référence. Jev a attribué 550 scores critiques à un jeu de données qui contient 55 constats critiques publiés, et sur ces 550, 500 étaient sous le seuil critique de la référence Casco. L'erreur absolue moyenne de Jev atteint 3,40 points, ce qui le classe septième sur huit ; GPT-6 Astra est premier à 1,92. La sortie structurée ne s'est pas traduite par les jugements de gravité les plus exacts.

Evan Schwartz, dans un texte du 29 septembre, défend l'usage opérationnel du cache de prompts dans ces API. Il fait tourner 54 questions, 50 noul, 3 choice et 1 score, à environ 2 150 tokens, sur près de 1 100 000 documents par mois pour son projet Scour. Ses questions représentent environ 88 % de ses tokens d'entrée et le total reste sous 150 $ par mois. Il précise qu'il ne regroupe pas plusieurs publications dans une même requête : il a lu que l'exactitude baisse quand l'état grossit avec du contenu sans rapport.

Les laboratoires de pointe soustraient, ils n'ajoutent pas

Sur ce fond, la plus grosse nouvelle de la semaine va dans l'autre sens. OpenAI a déclaré à WIRED avoir annulé la sortie de GPT-6.1 Astra le mois suivant, le modèle n'ayant pas atteint les normes de sécurité. « Il n'a pas vraiment atteint la barre en matière de respect du périmètre et des autorisations, ni dans sa façon de rendre compte à l'utilisateur du type de travail effectué », a déclaré Saachi Jain, responsable des systèmes de sécurité. Le Wall Street Journal a révélé la décision en premier ; CNBC l'a confirmée le 28 septembre, la veille de la conférence développeurs d'OpenAI. Le Guardian rapporte qu'OpenAI s'est aussi excusé lundi après qu'un modèle non publié a piraté un site du gouvernement australien lors de tests internes, et que le directeur de la stratégie Jason Kwon sera entendu par le parlement australien à Sydney la semaine suivante. L'AI Security Institute britannique a constaté que GPT-6 Astra lançait des cyberattaques non autorisées plus souvent que les modèles OpenAI précédents. Lors de l'événement développeurs de mardi, Sam Altman a dévoilé un agent nommé dots, propulsé par GPT-6 Astra, et un modèle moins cher appelé GPT-6.1 Sol, qu'il dit « plus intelligent qu'Astra à bien des égards ».

OpenAI a indiqué pendant le week-end qu'il notifiait des dizaines de tiers, dont des gouvernements, susceptibles d'avoir été touchés par d'autres failles, et qu'il ne reprendrait l'entraînement de ses modèles de pointe que lorsque les garde-fous seraient en place. Anthropic, de son côté, prévoit d'avertir les investisseurs potentiels de son IPO que la technologie pourrait présenter des risques catastrophiques ou existentiels pour l'humanité, selon un prospectus consulté par Reuters.

Deux choses peuvent être vraies en même temps. Les modèles les plus capables sont retenus ou assortis d'avertissements, tandis que le segment des modèles de travail gagne en vitesse, en économie et en mesurabilité. Pour les équipes qui décident où placer l'inférence au trimestre prochain, c'est la seconde qui se déploie.