Les modèles de décision abandonnent la génération de texte : la petite IA embarquée passe aux sorties logit
Deux modèles sortis le 29 septembre défendent la même idée : les petits modèles doivent renvoyer des probabilités calibrées plutôt que générer des tokens. Le d1 de Liquid AI et un fine-tune de Qwen3-VL-2B appelé Qevi-2B fonctionnent tous deux ainsi.

Les deux sont apparus à six minutes d'intervalle, le mardi. Liquid AI a publié la documentation de d1 à 20:09 UTC et l'a présenté comme son premier modèle de décision. MeerDevelopment a mis Qevi-2B en ligne sur Hugging Face à 20:16 UTC. Aucun des deux ne génère de texte.
La documentation de Liquid AI est directe sur le mécanisme. Un modèle de décision, y écrit-elle, « évalue une situation et renvoie des probabilités calibrées sur un ensemble fixe de résultats en un seul appel, sans générer aucun token ». L'API expose trois formes de question : noul (oui/non, renvoie un flottant), choice (choisir une option parmi des options nommées) et score (une position pondérée par probabilité sur une grille ordonnée). Dans l'exemple de la documentation, la chaîne « I have been waiting over three weeks for my order and nobody has responded to my emails » renvoie un noul de 0.999 pour la question « Is this message a complaint from the customer? ». La réponse indique aussi usage.output_tokens à 0.
Lire les logits, sauter la phrase
Qevi-2B emprunte une autre route vers la même destination. C'est un fine-tune complet de Qwen3-VL-2B-Instruct. Il répond à des questions fermées sur des images en lisant les logits de la tête LM à la position où le modèle commencerait à répondre, en se limitant aux tokens de réponse autorisés. Demandez-lui s'il y a une échelle sur une photo et il renvoie P(Yes) = 0.97. La fiche du modèle prévient qu'appeler .generate() et analyser le texte ne reproduira pas les chiffres publiés, « parce que ce n'est pas le chemin sur lequel le modèle a été fine-tuné ».
Les gains annoncés sont importants et précis. Le Qwen3-VL-2B de base passe par le même chemin de lecture. Face à lui, Qevi-2B obtient 0.977 de précision in-domain contre 0.855, et 0.889 sur des domaines tenus à l'écart contre 0.745. L'erreur de calibration attendue sur ces données passe de 0.160 à 0.054. La fiche rapporte aussi une inférence environ 21 fois plus rapide lorsqu'on pose beaucoup de questions sur une seule image, car le regroupement des questions partage un unique encodage d'image.
Une réserve mérite une lecture attentive. Le corpus d'entraînement ne couvre que les questions noul et choice, si bien que le type score n'est pas testé. Et la fiche retire explicitement les recommandations de température antérieures. À T = 2.45, l'ECE sur données tenues à l'écart revient à 0.160, ce qui annule tout le gain de calibration.
Petit, rapide, et braqué sur la classification
C'est l'argument embarqué dans sa forme actuelle. Le guide d'Ailoitte sur le développement de petits modèles, publié dans les douze dernières heures, le formule en termes de coût. Servir un modèle de 70 000 000 000 à 175 000 000 000 de paramètres peut être « 10 à 30 fois moins cher en latence, en énergie et en calcul » qu'un modèle plus grand, y lit-on, en citant un document de position de NVIDIA de 2 025. Il note aussi que les petits modèles tournent en local, ce qui compte pour les données de santé et de finance.
L'essai de Sebastian Raschka du 29 septembre sur la classification de texte fait le même point dans l'autre sens. Il décrit Jev comme essentiellement un classifieur de texte. Jev a causé « un véritable phénomène culturel dans les communautés techniques ces deux dernières semaines », écrit-il. Il est plus rapide et moins cher que les LLM généraux pour la classification, tout en restant plus général que les modèles spécifiques à une tâche. Il précise qu'il n'a aucune affiliation avec Jev et aucun accès gratuit à celui-ci.
Le dépôt jeeves de PostHog, mis à jour le 29 septembre, ajoute le raisonnement à ce schéma. Jeeves est un modèle de 9 000 000 000 de paramètres de type Jev, construit sur Qwen3.5-9B avec LoRA et une tête pointeur, entraîné avec SFT et CISPO. Il annonce 0.889 au global sur un split de test tenu à l'écart, contre 0.857 pour Jev et 0.822 pour Kev-9B. Il annonce 0.935 sur les niveaux publics de JevBench, contre 0.866 pour Jev. Le raisonnement coûte du temps : environ 3.3 secondes en médiane par requête sur un seul H100 en fp8, contre 0.3 seconde sans lui.
Les chiffres ne pointent pas dans une seule direction. Jeeves bat Jev au global mais perd sur Transfer (0.746 contre 0.800) et sur MMLU-Pro 10-way (0.739 contre 0.840). Il répond aussi à 5.5 % des questions sans réponse possible avec p ≥ 0.9. C'est mieux que les 9.0 % de Jev mais moins bien que les 0.0 % de Kev-9B.
Les prévisions de marché pour la catégorie varient fortement, ce qui mérite d'être signalé plutôt que moyenné. MarketsandMarkets évalue le marché des SLM à 930 000 000 USD en 2 025, pour atteindre 5 450 000 000 USD en 2 032, avec un TCAC de 28.7 %. wizr.ai cite un chiffre de 7 760 000 000 USD en 2 023, en croissance de 15.6 % de 2 024 à 2 030. Les deux estimations décrivent des marchés de tailles différentes.
La paire de sorties du 29 septembre suggère quelque chose de plus étroit et de plus concret. Pour les tâches de type classification, le format de sortie lui-même est repensé autour des probabilités, pas de la prose.
Sources
6- 01d1: Liquid AI's First Decision ModelEN
- 02Qevi-2B: A Jev-style finetuned model for image classificationEN
- 03Jeeves. Reasoning improves Jev-like decision modelsEN
- 04Language Models for Text Classification: From Bag-of-Words to JevEN
- 05Small Language Model Development: Lower Cost, More PrivacyEN
- 06The Rise of Small Language Models in Enterprise AI Adoption [2026]EN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.