Les « modèles de décision » promettent une IA plus rapide et moins chère, mais ce n'est pas encore un outil de sécurité

Liquid AI a publié d1 le 5 octobre et le présente comme son premier modèle de décision. Il traite désormais le texte et les images. L'entreprise affirme que d1 égale ou dépasse GPT-6.1 Sol sur quatre des six applications réelles testées, du filtrage de tickets de support à l'inspection de cartes de circuits imprimés. Il coûte 19 à 200 fois moins cher que ce modèle et que Claude Opus 5.5. D'après le billet de blog, il répond nettement plus vite sur chaque tâche.

La proposition est étroite par construction. Liquid décrit ainsi les modèles de décision : ils prennent des données non structurées et une ou plusieurs questions, les lisent en une seule passe avant et renvoient des probabilités sans générer le moindre token. Une décision textuelle prend 200 à 300 ms. Le modèle répond à des questions oui/non, choisit une étiquette parmi beaucoup, ou note une position sur une échelle.

C'est là que les équipes de sécurité pourraient regarder. La liste de démonstrations de l'entreprise comprend un filtre intelligent qui transforme d1 en fonction à l'intérieur d'une requête SQL, répondant par oui ou non sur 150 tickets de support. Elle cite aussi une tâche de compactage de contexte. d1 y lit chaque sortie d'outil dans la session d'un agent de codage et la conserve, la rogne ou la supprime, retirant 52 % des tokens tout en gardant chaque sortie dont la tâche a besoin. Ni l'un ni l'autre n'est un produit de défense. Tous deux relèvent de la plomberie qui se trouve sous un tel produit.

Une semaine chargée pour les petits modèles rapides

La sortie de Liquid est arrivée dans une vague d'annonces sur des modèles qui font moins, plus vite. Reflection a publié Beam le 5 octobre, un modèle Mixture-of-Experts clairsemé de 501 000 000 000 de paramètres au total et 23 000 000 000 actifs. Il est conçu pour le codage, le raisonnement et les charges agentiques. L'entreprise dit l'avoir entraîné sur 23 800 000 000 000 de tokens. Elle a aussi mené une phase d'apprentissage par renforcement à forte intensité de calcul, générant plus de 100 000 000 de rollouts sur 10 500 GPU NVIDIA GB300 en quatre semaines. Beam passe encore les tests adverses et évaluations finaux. Reflection annonce la publication des poids, d'un rapport technique et d'une fiche modèle plus tard ce mois-ci.

L'argument d'efficacité est le plus intéressant. Reflection écrit que Beam atteint des scores comparables à GLM-5.2 sur des benchmarks de raisonnement avancé tout en utilisant 3 à 4 fois moins de calcul d'inférence. L'écart se creuse, dit-elle, face aux modèles de la famille 2 000 000 000 000 de paramètres et plus, comme Qwen 3.8-Max. Elle reconnaît aussi les limites. Sur SWE Bench Pro v2-Hard, Beam obtient 77,2 contre 88,2 pour Kimi K3, et sur Terminal Bench v2.1, 80,1 contre 88,3. Le billet précise que les modèles ouverts de pointe restent devant en capacité brute, et que l'avantage de Beam tient à l'efficacité au moment de l'inférence.

Les arguments d'efficacité comptent pour quiconque fait tourner des classifieurs sur de gros volumes de journaux, d'alertes ou de tickets. Ils comptent moins si le modèle se trompe.

Le problème de confiance que personne n'a résolu

Une étude de l'UC Riverside publiée le 23 septembre a montré que la confiance et l'exactitude des grands modèles de langage peuvent provenir de caractéristiques internes différentes. Cela remet en cause l'idée que la confiance d'un modèle signale sa précision. Les chercheurs ont étudié Llama-3.1-8B de Meta, avec 8 000 000 000 de paramètres, et Gemma-2-9B de Google, avec 9 000 000 000 de paramètres. Ils ont classé les réponses en quatre groupes selon l'exactitude et la confiance, puis utilisé des autoencodeurs clairsemés pour voir quelles caractéristiques s'activaient. La note de l'université indique que supprimer les caractéristiques liées uniquement à l'incertitude a fortement réduit la précision, ce qui suggère que ces caractéristiques aident à produire de bonnes réponses.

« L'hypothèse principale du domaine est que, lorsque le modèle est confiant, il a probablement raison, et que, lorsqu'il doute, il a plus de chances de se tromper », a déclaré Het Patel, doctorant en informatique à l'UCR et premier auteur de l'étude. « Mais nous voyons souvent les contre-exemples, qui sont bien documentés. »

Pour un modèle de décision qui renvoie une probabilité, ce résultat joue dans les deux sens. Une probabilité est au moins explicite, contrairement à une phrase énoncée avec une assurance non méritée. Mais les chercheurs soulignent que le chiffre ne suit peut-être pas ce que les praticiens croient qu'il suit.

Deux projets open source d'agents de codage publiés le 5 octobre avancent un argument similaire sur la place des petits modèles. Jeff-Code, un fork de Pi par Mario Zechner et des contributeurs, place un modèle de décision de 800 000 000 de paramètres dans la boucle de l'agent. Il décide si l'agent peut franchir seul l'étape suivante et si Qwen 3.8-27B, avec 27 000 000 000 de paramètres, doit réfléchir longuement sur un tour. Son README annonce des tâches de codage 47 % plus rapides en moyenne à taux de réussite égal. Il rapporte une différence appariée de moins 0,2 point sur 1 242 tâches appariées, avec un intervalle à 95 % de moins 2,6 à plus 2,1. Désactiver la réflexion à chaque tour était encore plus rapide, mais coûtait 7,6 points.

Reika, un CLI d'agent de codage pensé d'abord pour de petits modèles locaux, a publié son propre fichier de résultats. Entre autres : une réécriture en milieu de contexte a retraité 8 453 tokens de prompt, soit 7,9 minutes de préremplissage, là où un ajout dans la même session coûtait 25 tokens et 3,5 secondes. Le projet affirme que la formulation du prompt est le levier le plus faible. Sur une tâche vague en Q2, ajoute-t-il, un modèle converge ou part en vrille à peu près une fois sur deux. Le harnais ne peut pas changer ce taux, seulement le coût de la moitié qui échoue.

Ce que rien de tout cela n'est

Aucune de ces publications n'est un modèle de cyberdéfense, et il vaut mieux le dire franchement. L'élément le plus proche de la sécurité est une annonce d'OpenAI le 3 novembre sur des partenariats avec des entreprises du secteur, que cet article ne peut étayer au-delà de son titre. d1 de Liquid est un classifieur. Beam de Reflection est un modèle général à poids ouverts en attente de tests adverses. Jeff-Code et Reika sont des harnais d'agents.

Le lien, c'est le coût et la latence, et il n'a rien de glamour. Un modèle de décision peut répondre à une question structurée en 200 à 300 ms pour une fraction du prix d'un appel à un modèle de pointe. Si c'est vrai, l'économie d'un modèle appliqué à chaque alerte change. Savoir si les réponses sont assez bonnes pour agir dessus est une autre question. Les travaux de l'UCR suggèrent que le chiffre de confiance qui les accompagne mérite un examen, pas de la confiance.

Liquid affirme que d1 n'a jamais été entraîné pour l'inspection visuelle et qu'il trie pourtant les pièces bonnes et défectueuses avec 85 à 97 % de précision sur le jeu de données public VisA, en comprenant la tâche à partir d'une courte description. C'est une affirmation de généralisation impressionnante de la part d'un blog d'éditeur. C'est aussi exactement le genre d'affirmation qui exige un test indépendant avant qu'on la pointe vers une ligne de production, ou un centre opérationnel de sécurité.