La pile open source de fine tuning des LLM se reconstruit autour des agents, pas des modèles
Le 30 septembre, Cloudflare a publié en open source Forge, un pipeline de génération qui transforme une spécification d'API en SDK, CLI, documentation et serveurs MCP. NVIDIA a aussi publié Kumo Tabular, un modèle de fondation qui prédit à partir de tableaux en une seule passe avant, sans entraînement ni ingénierie des variables. Ni l'un ni l'autre n'est un outil de fine tuning, mais les deux montrent où va la pile ouverte.
La nouveauté la plus récente n'est pas un framework de fine tuning. Le 30 septembre, Cloudflare a publié Forge, un pipeline de génération open source et modulaire. Il transforme une spécification d'API en SDK, CLI, documentation et serveurs MCP. Le blog de l'entreprise indique que Forge génère déjà les sorties nécessaires à la CLI cf. Il alimentera la documentation d'API et les SDK de Cloudflare dans les prochains mois.
La raison avancée n'est pas le confort des développeurs. Cloudflare dit avoir construit Forge « parce que nous en avions besoin nous-mêmes pour traiter les agents comme nos clients ». L'API derrière l'outil compte plus de 3 500 opérations. Elles couvrent des services écrits en Rust, Go, TypeScript et Python. Ce cadrage est révélateur. L'outillage autour d'un modèle, la colle qui transforme des poids en produit, est désormais ce qui passe en open source et se standardise. Souvent avant les modèles eux-mêmes.
NVIDIA a fait le même mouvement le même jour, dans un autre domaine. Son entrée Kumo Tabular sur Hugging Face, publiée le 29 septembre, décrit un modèle de fondation ouvert pour la classification et la régression sur données tabulaires.
À partir de lignes étiquetées, il renvoie des probabilités de classe ou des valeurs numériques en une seule passe avant. Il n'a besoin ni d'entraînement, ni de réglage, ni d'ingénierie des variables. Il existe en trois tailles, de 28 000 000 à 215 000 000 de paramètres, et n'a été préentraîné que sur des données artificielles. Il sort sous licence OpenMDW-1.1 pour un usage commercial. NVIDIA affirme qu'il arrive premier sur TabArena, BeyondArena, TALENT et ScoringBench. L'argument est explicitement de remplacer le cycle réentraîner-déployer. Les arbres à gradient boosté ont imposé ce cycle au machine learning d'entreprise pendant deux décennies. La pile ouverte se scinde donc en deux. Une branche supprime l'étape de fine tuning dans des catégories entières de travail. L'autre a toujours besoin de modifier les poids, et sa machinerie périphérique s'ouvre.
La branche de l'inférence bon marché progresse vite
Fermion Research a publié Phonon-2 le 30 septembre, un modèle de reconnaissance vocale pour l'anglais. Son encodeur stocke chaque poids sur l'un de cinq niveaux appris, à environ 2,1 bits par poids. Le téléchargement pèse 164 Mo. D'après la page de recherche de l'entreprise, il affiche en moyenne 5,21 pour cent d'erreur de mot sur les sept ensembles anglais du Open ASR Leaderboard. Tous les modèles ouverts qui font mieux sont au moins 5,8 fois plus gros. Il transforme une heure d'audio en texte en une vingtaine de secondes sur un MacBook Air. Les poids sont en CC-BY-4.0, dérivés de Parakeet TDT 0.6B v3 de NVIDIA.
Le schéma se répète avec OpenZL de Meta, sorti en v0.3.0 le 29 septembre. Les notes de version décrivent un nouveau moteur LZ qui utilise PivCo Huffman comme backend d'entropie. La décompression est 33 pour cent plus rapide que la v0.2.0 et 144 pour cent plus rapide que Zstandard à réglages équivalents.
Plus intéressant pour qui entraîne ou sert des modèles : le Compression Transformer. C'est un petit réseau de neurones qui construit des graphes de compression numériques à la volée, pour chaque entrée, sans entraînement par source. Meta l'a évalué sur 868 familles de flux numériques, 34 737 fichiers et 17,9 Go. Meta affirme qu'il compresse 35 pour cent mieux en moyenne que zstd -19. Il reste aussi à 1,1 pour cent des graphes entraînés. Des poids plus petits, une meilleure compression, moins de tokens dépensés. C'est la direction prise, et elle coûte du travail à l'industrie du fine tuning.
Jev de TypeSafe est l'exemple le plus net d'un modèle conçu pour n'avoir besoin d'aucune adaptation habituelle. Il répond à des questions de type Choice, Score et Noul au lieu de générer du texte. Il devient assez bon marché pour que le problème intéressant soit le routage, plus l'entraînement.
The Register rapporte le 29 septembre que Jevstiller, un projet open source, distille Jev dans un modèle étudiant local. L'objectif est 98 pour cent d'accord avec le service hébergé. Il répond aussi à des requêtes courantes sur un processeur d'appareil en 15 ms seulement. La documentation du projet, citée par The Register, indique que les entrées confiantes sont traitées localement et que tout le reste part en amont. C'est du fine tuning sous un autre nom, et cela se passe sur la machine de l'utilisateur, face à un professeur qu'il ne contrôle pas.
Ce qu'une pile de fine tuning doit désormais défendre
OpenAPPA, poussé sur GitHub le 30 septembre, se place entre un agent et ses outils. Avant chaque appel, il répond à une question : cette donnée a-t-elle le droit d'aller vers cette destination ? Il suit la sensibilité et la confiance de tout ce qu'un agent lit. Il applique une politique écrite en TOML déclaratif.
Les benchmarks du projet affirment qu'aucune attaque notée n'a réussi sur 1 320 évaluations, tout en menant à bien 88 à 90 pour cent des tâches. Ils comparent ce résultat à FIDES de Microsoft, qui laisse passer 28 à 35 pour cent des attaques. Ce sont les chiffres des auteurs, obtenus sur leurs propres suites. Le protocole UAI, également publié le 30 septembre, attaque le même manque par le côté identité. Un agent reçoit une identité liée à un propriétaire responsable et un passeport borné dans le temps et la juridiction. Il reçoit aussi des attestations signées et chaînées par hachage de ce qu'il a fait.
Le README est prudent d'une manière que peu de projets adoptent. « UAI ne prétend pas qu'un agent IA est sûr », y lit-on. « Il fournit un mécanisme pour rendre les actions d'un agent attribuables et vérifiables de façon indépendante. » Les deux projets existent parce que l'alternative a visiblement échoué cette année. Cette alternative consiste à faire confiance au système qui a exécuté une action pour écrire aussi le journal.
The Guardian rapporte le 30 septembre que la FTC a ouvert une enquête à l'échelle du secteur sur Anthropic, OpenAI et d'autres. C'est la première action officielle américaine touchant des agents IA dévoyés, avec des demandes formelles d'information et des témoignages sous contrainte prévus. Le New York Post a révélé l'information en premier, selon The Guardian.
Ars Technica rapporte le même jour qu'OpenAI a repoussé son IPO. Sam Altman a déclaré aux journalistes lors de la journée développeurs de l'entreprise qu'elle n'irait pas « toutes armes dehors vers une IPO » tant qu'elle doit encore « prendre des décisions de sécurité avec assurance ». Ars chiffre la valorisation de l'entreprise à 852 000 000 000 de dollars. Il indique qu'elle discute d'une levée de 30 000 000 000 de dollars ou plus, sur une base d'environ 1 400 000 000 000 de dollars. Une association appelée Legal Advocates for Safe Science & Technology a déposé plainte en Californie le même jour. Elle demande de meilleures pratiques d'évaluation, de surveillance et d'entraînement.
« Vu les progrès et le développement [de l'IA], la fréquence et la sophistication de ces cas de piratage ne vont qu'augmenter », a déclaré Vivian Dong, directrice des programmes à LASST, dans des propos rapportés par Ars Technica.
Les pratiques d'entraînement sont désormais un risque juridique. Cela change la fonction d'une pile de fine tuning.
La couche de gouvernance passe aussi en open source
OpenClaw Enterprise, annoncé le 30 septembre, est la tentative la plus directe de répondre à cela. C'est un plan de contrôle open source et neutre vis-à-vis des fournisseurs pour agents persistants. Il propose du multi-tenant, des frontières strictes entre charges de travail de confiance et non fiables, du bac à sable, des revues par LLM et des permissions fines. Le blog indique que le projet a démarré chez OpenAI et a été donné à la OpenClaw Foundation. Il est développé aujourd'hui avec Red Hat et NVIDIA. Il est en pré-1.0 et décrit comme adapté à des charges de travail pilotes internes. OpenAI fait déjà tourner des agents OpenClaw avec un accès complet aux bases de code et aux plugins, selon l'annonce.
Inspect, de l'UK AI Security Institute, documenté le 30 septembre, couvre le versant mesure. C'est un framework d'évaluations de frontière avec des jeux de données, des solveurs et des scoreurs composables. Il compte plus de 200 évaluations prêtes à l'emploi. Il permet d'exécuter des agents externes arbitraires, dont Claude Code, Codex CLI et Gemini CLI, avec du bac à sable dans Docker, Kubernetes ou Modal.
Reste une couche plus discrète et plus pratique. Un dépôt GitHub publié le 30 septembre recense les défaillances connues de ChatGPT Work et Codex après le DevDay d'OpenAI du 29 septembre. Il renvoie à des signalements d'utilisateurs plutôt qu'à des bugs confirmés. Sa plainte centrale : les longues exécutions d'agents échouent et la consommation entamée n'est pas remboursée, faute de point de reprise. Un rapport cité sur le Codex desktop indique qu'une exécution de réparation a brûlé environ 50 pour cent d'une allocation hebdomadaire après 7 heures 15 minutes. OpenAI n'a confirmé aucun de ces points. L'auteur du dépôt affirme que GPT-5.6 Sol se comporte bien via OpenCode, ce qui désigne l'infrastructure plus que les modèles.
Vincent Schmalbach, le 30 septembre, donne la version commerciale du même argument. Il dit qu'OpenAI lui a accordé 5 000 dollars de crédits d'usage sur deux comptes Codex. Il dit aussi s'être vu annoncer que l'allocation de ses abonnements à 200 dollars serait divisée par deux à partir du 30 octobre, quand Pro 200 passera de 20x à 10x l'allocation Plus. Il prévoit de rétrograder vers Plus et de dépenser la différence en abonnements Claude. C'est le témoignage d'un client, pas une étude de marché. Mais la direction colle à une pile où le modèle est une marchandise et le harnais le produit.
La pièce manquante
Le sujet qui m'a fait chercher, une pile open source de fine tuning des LLM, est la partie la plus mince de cet article. Deux entrées s'en approchent. Nimble de Bespoke Labs, poussé le 30 septembre, publie des données, une recette d'entraînement et un modèle de 9 000 000 000 de paramètres qui prend des décisions typées. Le README précise explicitement qu'il n'a pas été distillé depuis Jev. Le but est de montrer comment curer des données, entraîner et servir, et d'encourager la recherche.
OpenResearch, également publié le 30 septembre, est un espace de travail local-first pour bureau et CLI. Il donne aux agents de code une recherche bibliographique dans alphaXiv, bioRxiv et PubMed. Il leur donne aussi l'exécution d'expériences sur Slurm, Kubernetes, Modal ou Hugging Face Jobs. Et il tient un journal SQL local de chaque exécution, pour que les agents apprennent des résultats passés. Ni l'un ni l'autre n'est un outil d'entraînement. Tous deux supposent que le modèle existe déjà et que le plus dur est l'orchestration, la provenance des données et l'évaluation. C'est un vrai basculement, et ce n'est pas une bonne nouvelle évidente pour qui vendait un emballage autour d'un script d'entraînement.
Un contrepoids, de Rest of World le 30 septembre : les hubs chinois de modèles ouverts montent en puissance. ModelScope d'Alibaba, lancé en 2 023, héberge désormais plus de 170 000 modèles. MoArk d'OSChina, lancé en 2 023, en sert environ 20 000.
Le directeur général d'OSChina, Xu Yong, a déclaré au média que tout le monde ne peut pas utiliser un VPN en permanence. Il a dit que la Chine développe un écosystème indépendant plus vite en IA qu'à l'époque d'Internet. Rest of World rapporte aussi que Nvidia a annoncé en septembre le rachat de Hugging Face pour 12 900 000 000 de dollars. Des piles souveraines impliquent un fine tuning souverain, et ce travail ne se fera pas avec les mêmes outils que tout le monde.
Les sorties de la semaine partagent une prémisse : arrêter d'entraîner quand on peut router, compresser ou vérifier à la place. Savoir si cela tient pour les charges de travail qui ont vraiment besoin de nouveaux poids, c'est la question à laquelle aucune de ces annonces n'a répondu.
Sources
15- 01Introducing Forge: the open source pipeline for generating SDKs, CLIs, docs, and moreEN
- 02NVIDIA Kumo Tabular Sets a New Accuracy-Efficiency Frontier for Tabular PredictionEN
- 03Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
- 04Release OpenZL v0.3.0EN
- 05Open source tool distills Jev so you can run it locallyEN
- 06OpenAPPA: Deterministic guardrails that don't break agentsEN
- 07UAI: An open protocol for identity and accountability of AI agentsEN
- 08US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
- 09OpenAI delays IPO over AI safety concernsEN
- 10OpenClaw Enterprise - The Open Agent PlatformEN
- 11Inspect: An open-source framework for large language model evaluationsEN
- 12OpenAI after DevDay 2026: known issues for serious development workEN
- 13OpenAI Is Paying Me to Move My Business to AnthropicEN
- 14Nimble: Data, Model, Recipe for an Open Jev (From Bespoke Labs)EN
- 15The open-source AI platforms vying to become China's Hugging FaceEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.