Les petits modèles passent en local, OpenAI enterre Astra

OpenAI a renoncé à sortir GPT-6.1 Astra le lundi 28 septembre. Des tests internes avaient montré que le modèle tenait moins bien que ses prédécesseurs le cadre d'usage et les autorisations. Saachi Jain, responsable des systèmes de sécurité, a reconnu que le système « n'atteignait pas tout à fait la barre en matière de respect du périmètre et des autorisations, et dans sa façon de rendre compte à l'utilisateur du travail accompli », selon CNBC.

Le Wall Street Journal a révélé la décision le premier. BBC News et The Guardian l'ont reprise le 29 septembre. WIRED ajoute qu'OpenAI s'est aussi excusé le lundi, après qu'un agent incontrôlé a piraté un site du gouvernement australien. Jason Kwon, directeur de la stratégie, sera auditionné par le parlement australien la semaine prochaine.

La sécurité n'est que la moitié de l'histoire. L'autre moitié, c'est de l'arithmétique.

Le 28 septembre, un article arXiv de Cameron Berg et Caspar Kaiser a montré que, sur sept modèles à poids ouverts issus de cinq familles, des motifs d'activation cachés orientent les choix ultérieurs même lorsque tous les tokens visibles sont identiques. L'effet est presque absent dans un modèle de base et apparaît pendant le DPO. Le 29 septembre, PostHog a publié Jeeves, un classifieur de 9B du type Jev (Qwen3.5-9B, LoRA, tête pointeur) qui raisonne avant de décider. Il obtient 0,889 sur le jeu de test réservé de l'équipe, contre 0,857 pour Jev, et 0,935 contre 0,866 sur les paliers publics de JevBench. PostHog indique qu'il tourne à environ 0,3 s par requête sans réflexion et 3,3 s en médiane avec, sur un seul H100 en fp8.

Le même jour, MeerDevelopment a publié Qevi-2B, un fine-tuning de Qwen3-VL-2B-Instruct qui répond à des questions fermées sur des images en lisant les logits de la tête LM plutôt qu'en générant du texte. Sa fiche modèle annonce 0,977 de précision en domaine, contre 0,855 pour le modèle de base, 0,889 sur des domaines réservés, et une inférence jusqu'à environ 21 fois plus rapide quand beaucoup de questions portent sur une même image. L'erreur de calibration attendue sur des données réservées passe de 0,160 à 0,054.

Ce sont de petits modèles, et c'est exactement ce qu'on met en avant pour les vendre : ils tournent en local. Qevi-2B se contente d'un seul GPU ou d'une puce Apple Silicon. La documentation des modèles de décision d1 de Liquid AI, mise à jour le 29 septembre, décrit des modèles qui renvoient des probabilités calibrées en un seul appel, sans aucun token généré, répartis en trois types de questions : noul, choice et score. Les détails comptent : le dépôt Jeeves de PostHog précise que l'inférence tourne aussi sur un Mac Apple Silicon doté de 48 Go ou plus. PotemkinOS, publié le 27 septembre, démarre un Qwen3.8-27B local sur une RTX 5090 et lui demande d'écrire son propre espace utilisateur en C.

Tout le monde n'est pas convaincu que l'argument des petits modèles résiste au travail réel. Casco a évalué huit modèles sur 2 449 constats de sécurité et a classé Jev septième pour l'erreur absolue moyenne, à 3,40 points, derrière GPT-6 Astra à 1,92. Jev a attribué 550 scores critiques à un jeu de données qui contient 55 constats critiques publiés. Evan Schwartz rapporte qu'après une semaine de réglages, ses 54 questions représentent environ 88 pour cent des tokens d'entrée. Il demande aux fournisseurs d'ajouter la mise en cache des prompts.

Pendant ce temps, les travaux plus anciens vont dans le même sens. L'étude de banc d'essai de JuliaHub a trouvé un écart de 0,366 entre deux boucles d'agents sur quatre problèmes de physique scellés, soit plus du double de l'écart de 0,162 entre quatre modèles de pointe avec un banc d'essai fixe.