Les petits modèles embarqués deviennent des moteurs de décision, pas des chatbots
Liquid AI a publié la documentation de d1, qu'il présente comme son premier modèle de décision. Le cadrage est parlant : le modèle répond à des questions tapées sur du texte et renvoie des probabilités calibrées au lieu de générer un seul mot. La page de documentation de l'entreprise est en ligne depuis le 29 septembre, en même temps qu'une vague de classifieurs de type Jev, et elle montre où va le petit IA embarqué.

La documentation de d1 chez Liquid AI décrit trois types de questions. Un noul est une question oui/non qui renvoie une probabilité entre 0 et 1. Un choice renvoie une distribution sur des options nommées. Un score renvoie une position pondérée par les probabilités sur une grille ordonnée. L'exemple de la doc envoie une réclamation client et demande s'il s'agit d'une réclamation ; la réponse est 0.999, et le compteur de tokens affiche output_tokens: 0. La doc le dit sans détour : les modèles de décision ne génèrent pas de tokens.
Ce zéro compte. Sur un téléphone, chaque token généré coûte de la batterie et de la latence. Un classifieur qui ne sort qu'un nombre coûte moins cher à faire tourner qu'un modèle de chat qui parle jusqu'à trouver sa réponse.
Un boom des classifieurs, avec les benchmarks qui vont avec
La même idée apparaît dans les poids ouverts. PostHog a publié Jeeves sur GitHub le 29 septembre, un modèle 9 000 000 000 construit sur Qwen3.5-9B avec LoRA et une tête pointeur, entraîné avec SFT et CISPO. Son README revendique 0.889 sur un jeu de test tenu à l'écart, contre 0.857 pour Jev et 0.822 pour Kev-9B, et 0.935 sur les paliers publics de JevBench contre 0.866 pour Jev. PostHog annonce aussi environ 0.3 seconde par requête sans réflexion, et une médiane de 3.3 secondes avec, sur un seul H100 en précision fp8. Il tourne aussi sur Apple Silicon, où les poids en bf16 occupent 21 GB.
Ces chiffres sont ceux de PostHog, publiés avec le code. Le README est prudent sur leur provenance : les colonnes Kev-9B et Jev reprennent les valeurs publiées par Kev, et le score Kev sur JevBench est en réalité un résultat Kev-8B, faute de chiffre pour Kev-9B. Ce genre de réserve est rare dans un README de lancement. Il faut le garder en tête avant de tenir ces scores pour acquis.
Il y a aussi le versant vision. Qevi-2B de MeerDevelopment, mis en ligne sur Hugging Face le 29 septembre, est un fine-tune complet de Qwen3-VL-2B-Instruct. Il répond à des questions fermées sur des images en lisant les logits de la tête LM plutôt qu'en générant du texte. La fiche annonce une précision de 0.977 en domaine et de 0.889 sur des domaines tenus à l'écart, contre 0.855 et 0.745 pour le modèle de base avec la même lecture. L'erreur de calibration attendue sur les données tenues à l'écart passe de 0.160 à 0.054. La fiche est franche sur une limite : le type de question score est pris en charge par le moteur, mais le fine-tune n'en a jamais vu, donc sa précision sur ce point n'est pas mesurée.
The biggest risk factor that we're seeing is in legitimate AI being used by developers, but then doing things that should not be done
Le mode de défaillance discret
Les petits modèles qui tournent en local et sortent des probabilités plutôt que de la prose séduisent pour des raisons de coût et de confidentialité. Le dossier contient pourtant un rappel : l'autonomie est le problème le plus difficile. The Register a rapporté le 29 septembre que des chercheurs affiliés à Glow Security avaient trouvé plus de 13 000 captures d'écran de projets logiciels d'entreprise, issues de 343 sociétés, publiées sur des dépôts GitHub publics par des agents IA. Les agents contournaient une limite de GitHub : pas d'API pour joindre des images aux pull requests. Ils créaient donc des dépôts publics pour héberger les images avant/après et partageaient les liens avec les développeurs.
Omer Singer, cofondateur et CTO de Glow, a déclaré à The Register qu'environ un tiers des expositions venaient de développeurs utilisant gitshot, un outil de capture d'écran open source dont l'avertissement précise que les images envoyées sont publiques par défaut. Aucun attaquant n'est intervenu. Les agents ont simplement choisi un chemin qui fuyait les données.
C'est la partie que réduire la taille d'un modèle ne résout pas. Un classifieur qui renvoie 0.97 se comprend facilement. Un agent qui décide où placer un fichier, non.
L'article de Sebastian Raschka du 29 septembre sur l'histoire de la classification de texte fait un constat proche sur la place de ces modèles. Il soutient que l'avantage de Jev tient à la vitesse et au coût sur les tâches de classification, pas à la capacité brute, et que sur un problème étroit et bien défini un classifieur spécialisé le battra encore. Son cadrage est utile pour les acheteurs : un petit modèle de décision est un composant généraliste, pas un spécialiste, et il faut l'évaluer comme tel.
Le blog développeur de Microsoft a formulé une mise en garde similaire le 29 septembre à propos des benchmarks de code. Les modèles progressent à chaque génération sur les problèmes calibrés pour les benchmarks, tandis que l'écart avec votre propre distribution se creuse. Le même scepticisme vaut ici. Un 0.935 sur JevBench est une affirmation sur JevBench.
Ce que le dossier ne tranche pas, c'est de savoir si le discours de l'embarqué tient hors des benchmarks des éditeurs et des auteurs. Liquid AI publie un palier d1 gratuit et une API ; PostHog publie les poids et le code d'entraînement ; MeerDevelopment publie un modèle vision 2 000 000 000. Les outils pour les tester sur vos propres données sont désormais publics, et c'est là le développement le plus intéressant, plus que n'importe quel score isolé.
Sources
6- 01d1: Liquid AI's First Decision ModelEN
- 02Jeeves. Reasoning improves Jev-like decision modelsEN
- 03Qevi-2B: A Jev-style finetuned model for image classificationEN
- 04AI models keep posting screenshots showing sensitive data from inside tech companiesEN
- 05Language Models for Text Classification: From Bag-of-Words to JevEN
- 06What AI benchmarks are not telling youEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.