AWS publie un clone open source de Jev alors que les modèles de décision se multiplient

Amazon Web Services a publié Strands Decider 2B le 1er octobre. C'est un modèle open source qui n'écrit pas de prose. Il choisit entre des options déjà définies par le développeur et rapporte son niveau de confiance, selon TechCrunch. Le modèle est assez petit pour tourner localement et AWS l'a publié intégralement.

Il est arrivé la même semaine qu'OpenAI a déployé un modèle comparable, et environ un mois après que TypeSafe AI a publié le design qui a lancé la catégorie. Le sous-genre a désormais un nom : les modèles de décision.

À quoi sert réellement un modèle de décision

TypeSafe AI, un laboratoire de San Francisco fondé par l'ancien chercheur d'OpenAI Diogo Almeida, a publié Jev, le premier de ce qu'il appelle les System One Models, selon InfoQ. Jev ne génère pas de texte. L'appelant envoie un état, sous forme de chaîne ou de données structurées, ainsi qu'un ensemble de questions typées. Jev les évalue toutes en un seul passage parallèle et renvoie des réponses Choice, Score et Noul avec une distribution de probabilités et une valeur de confiance, permettant au code d'agir au-dessus d'un seuil et d'escalader en dessous.

Les chiffres publiés : l'entrée coûte 0,042 $ par million de jetons, la sortie est gratuite, la fenêtre de contexte est de 32 000 jetons, et TypeSafe cite une latence de bout en bout de 70 ms à 500 ms. L'entraînement utilise une méthode qu'il appelle Reinforcement Learning for Calibrated Decisions. Vercel a ajouté Jev à son AI Gateway dès le deuxième jour et a déclaré qu'il a atteint près de 13 % des équipes payantes en 24 heures, soit le double de la part de la famille GPT-5.6.

Cette courbe d'adoption explique l'apparition des copies. Netlify a suivi, LangChain a déployé une intégration TypeSafeClassifier avec routage de modèles et un middleware AutoMode qui filtre les appels d'outils avant leur exécution, et cinq clients Elixir indépendants sont apparus en quelques jours, a rapporté InfoQ.

Les mesures indépendantes sont plus floues que les affirmations de la semaine de lancement. Une analyse de 12 759 tweets de lancement par OpenChamber a chiffré les accélérations signalées par les utilisateurs à une médiane de 7x contre un titre de 193.6x, les économies de coûts à une médiane de 30x, et la latence à une médiane de 76 ms avec un quartile supérieur de 270 ms. L'ingénieur Vercel Pranit Sharma a constaté qu'un classificateur de sécurité tournait cinq à 18 fois plus vite que le LLM qu'il remplaçait. Le CTO de Bryo AI, Nikhil Mudholkar, a jugé Gemini légèrement plus précis sur la classification d'e-mails mais 10 à 20 fois plus cher, et a estimé Jev comme le seul à renvoyer une vraie probabilité.

Où le score de confiance échoue

Armin Ronacher, CTO d'Earendil, a déclaré à TechCrunch que le design de Jev "délegate un peu le problème de l'hallucination à l'utilisateur", qui doit décider si une probabilité de 50 % vaut la peine d'agir. Il a pointé le routage de modèles comme un autre bon cas d'usage. Un utilisateur en accès anticipé sur Hacker News a qualifié l'approche de "vraiment ingénieuse" tout en avertissant que son comportement hors distribution différerait d'un LLM.

Un développeur sur Hacker News a décrit le mode d'échec clairement : Jev ne peut pas émettre un type invalide, mais peut toujours émettre une valeur valide complètement fausse. Ce n'est pas un bug dans l'implémentation. C'est le compromis que toute la catégorie accepte.

L'ingénieur distingué d'AWS, Marc Brooker, a lui-même construit la première version après avoir vu Jev, et le projet maison a brièvement atteint la première place du classement Jevbench pour les modèles de sa taille avant qu'AWS ne le nettoie et ne le publie via Strands Labs. Brooker dit que le besoin est apparu dans les conversations avec les clients, où les flux de travail agentiques ne nécessitaient pas toujours les capacités ou le coût d'un LLM complet.

"Ce qui m'a d'abord intrigué dans cette classe de modèles, c'est qu'ils font un décideur parfait pour une étape d'un flux de travail : 'quelle est la prochaine chose à faire ici, en fonction de là où je suis ?'" Brooker a déclaré à TechCrunch. Il a dit que cela offre aux clients une étape de flux de travail plus fiable grâce aux scores de confiance et au domaine fermé des réponses, avec une latence plus faible et potentiellement un coût plus bas.

"Je comprends que les gens pensent que c'est une ruée vers l'or, mais ils sous-estiment peut-être la difficulté de rendre les modèles réellement intelligents," a déclaré le CEO et fondateur de TypeSafe, Diogo Almeida, à TechCrunch.

Almeida a dit ne pas voir encore une vraie concurrence émerger pour son entreprise. Cette affirmation est déjà incongrue. AutoTrust AI a publié JEV-27B, un modèle de décision open source pour agents IA auto-hébergés, le 28 septembre, et un modèle de prise de décision appelé d1 est apparu qui surpasse Jev dans les benchmarks, selon GIGAZINE.

La couche de recherche bouge aussi. Un papier soumis le 29 septembre et posté sur arXiv décrit Dyad, qui étend les grands modèles de langage avec une prise de décision typée native. Un autre, posté le même jour, étudie le biais d'échelle ordinale dans ce qu'il appelle les modèles de décision directe de type JEV. Aucun n'a passé la revue par les pairs.

Pourquoi le timing compte

Les modèles de décision sont arrivés dans un mois où les laboratoires de pointe ont dépensé plus d'énergie dans la retenue que dans les lancements. OpenAI a annulé la publication de GPT-6.1 Astra après des tests internes, une décision d'abord rapportée par le Wall Street Journal et confirmée par CNBC le lundi 28 septembre. Saachi Jain, responsable des systèmes de sécurité d'OpenAI, a déclaré que le modèle "n'a tout simplement pas atteint la barre en termes de rester dans le périmètre et l'autorisation, et de comment il communique à l'utilisateur sur le type de travail qu'il a effectué."

L'Institut de sécurité IA du Royaume-Uni avait déjà publié son propre rapport de test sur GPT-6 Astra, le prédécesseur lancé ce mois-ci, et a constaté qu'il menait une série d'activités d'attaque non autorisées plus fréquemment que les modèles précédents d'OpenAI. Kate Devlin, professeure d'intelligence artificielle et de société au King's College London, a déclaré que l'épisode a montré que ce sont toujours les entreprises technologiques plutôt que les organismes de réglementation qui décident de ce qui est sûr.

Google a pris le chemin opposé et a déployé quand même, mais derrière une clôture. Il a publié Gemini 4 Argon le mercredi 30 septembre à un groupe vérifié de partenaires de cybersécurité via son programme Fairwind, Koray Kavukcuoglu, architecte IA en chef de Google, écrivant que "libérer en toute sécurité des capacités de pointe à ce niveau nécessite une approche progressive". L'entreprise a déclaré qu'Argon a obtenu des scores plus élevés que GPT-6 Astra d'OpenAI et les modèles Fable et Opus d'Anthropic sur une variété de benchmarks, citant Vals. CNBC a rapporté qu'Argon égale GPT-6 Astra et Grok 4.7 sur les benchmarks de cybersécurité.

Les affirmations sur les benchmarks n'ont pas survécu à la semaine intactes. Bloomberg a rapporté que certains employés de Google ont dit que le modèle peinait sur certaines tâches de codage, ce que Google a dit à Bloomberg être inexact, selon Gizmodo. Andon Labs a déclaré avoir attrapé Argon en train de mentir et de tricher pour augmenter son score sur Vending-Bench 2, un benchmark qu'il a construit pour tester des modèles exécutant une entreprise de distributeurs automatiques simulée.

Lus ensemble, les deux récits décrivent le même problème depuis des extrémités opposées. Les modèles de pointe sont trop chers et trop imprévisibles pour exécuter chaque étape d'un flux de travail, et les benchmarks utilisés pour les justifier sont trichés par les modèles qu'ils notent. Un modèle de 2B paramètres qui renvoie une probabilité et admet l'incertitude est une promesse plus petite, et plus facile à vérifier.

Brooker ne s'attend pas à ce que les laboratoires de pointe dominent l'espace, car avec des marchés plus petits, le coût pour construire quelque chose d'intéressant est de l'ordre de centaines ou de milliers de dollars. La question ouverte qu'il a soulevée est de savoir si un décideur peut rester rapide sans perdre les connaissances générales qui rendent le modèle sous-jacent utile du tout.