Les poids ouverts montent en gamme : puces, parole et modèles tabulaires livrés en une semaine
OpenAI et Synopsys ont signé le 30 septembre un accord pluriannuel pour construire GPT-Synopsys, un modèle spécialisé dans la conception de puces. C'est l'une des cinq sorties ou associations de modèles ouverts, ou décrits ouvertement, à voir le jour dans les derniers jours de septembre.

La nouveauté dans le travail sur les modèles ouverts n'est pas un score de benchmark. C'est un contrat. Le 30 septembre, OpenAI et Synopsys ont annoncé avoir signé un partenariat stratégique pluriannuel pour construire un modèle d'IA spécialisé dans la conception de puces, appelé GPT-Synopsys, selon The Decoder. Synopsys vend des outils de conception électronique assistée, les logiciels que les ingénieurs utilisent pour dessiner les puces. OpenAI licencie ces outils pour le projet.
L'objectif annoncé est un modèle capable de « raisonner sur la conception et la vérification des puces, et de piloter directement les outils de Synopsys ». Les deux entreprises indiquent que des tests préliminaires avec des clients du secteur des semi-conducteurs sont en cours, que les données clients ne serviront pas à l'entraînement et seront stockées chiffrées, et qu'elles commercialiseront le produit ensemble en partageant les revenus. Sassine Ghazi, PDG de Synopsys, estime que l'IA pourrait accélérer nettement le processus de conception. Greg Brockman, cofondateur d'OpenAI, présente l'accord comme un moyen d'obtenir de meilleures puces et une meilleure IA.
C'est un modèle fermé à l'intérieur d'une chaîne commerciale. La même semaine a produit un type de sortie très différent.
Petits modèles, petits fichiers, grandes promesses
Fermion Research a publié Phonon-2 le 30 septembre, en le présentant comme le modèle de reconnaissance vocale ouvert le plus précis sous 900 Mo. Dans un téléchargement de 164 Mo, l'entreprise affirme qu'il égale la précision de son modèle enseignant en pleine précision de 2,5 Go, le dépasse sur les réunions et les discours parlementaires, et transforme une heure d'audio en texte en environ 20 secondes sur un MacBook Air. Les poids sont sur Hugging Face sous licence CC-BY-4.0, celle de Parakeet TDT 0.6B v3 de NVIDIA, dont ils dérivent.
Le chiffre intéressant est 5,21. Sur les sept ensembles anglais du Open ASR Leaderboard, Phonon-2 affiche en moyenne 5,21 pour cent d'erreur de mot, et chaque modèle ouvert qui fait mieux est au moins 5,8 fois plus gros, selon la publication de l'entreprise. Chaque poids d'encodeur est stocké comme l'un de cinq niveaux appris, empaquetés en chiffres en base 3 à cinq par octet, avec un bit supplémentaire par poids non nul qui sélectionne la magnitude. Cela donne environ 2,1 bits par poids stocké. L'entreprise affirme que l'avance tient sous le bruit, d'une pièce silencieuse à un bruit de fond aussi fort que l'interlocuteur, où elle reste devant Parakeet Redux.
Le dossier ne contient aucune vérification indépendante. Considérez le classement et l'affirmation sur le bruit comme des chiffres de l'entreprise jusqu'à ce que quelqu'un les reproduise.
Le même jour, NVIDIA a mis son modèle de fondation tabulaire sur Hugging Face. NVIDIA Kumo Tabular est un modèle de fondation ouvert pour données tabulaires qui prédit les étiquettes de nouvelles lignes en une seule passe avant, sans entraînement, sans réglage et sans ingénierie de variables, pour la classification comme pour la régression. Il a été préentraîné uniquement sur des données artificielles, existe en trois tailles de 28 000 000 à 215 000 000 de paramètres, fonctionne via la bibliothèque open source structured-data-models de NVIDIA, et est publié sous licence OpenMDW-1.1 pour usage commercial. NVIDIA affirme qu'il se classe premier sur quatre benchmarks : TabArena, BeyondArena, TALENT et ScoringBench.
Les détails d'architecture comptent moins que le cadrage. Le travail tabulaire est dominé depuis deux décennies par les arbres à gradient boosting, et l'argument de NVIDIA est qu'un transformeur préentraîné peut lire un tableau étiqueté en contexte et sauter le cycle par tâche consistant à collecter des étiquettes, fabriquer des variables et régler les hyperparamètres. Le modèle utilise l'attention par colonne, par ligne et en contexte, dans la lignée de TabICL et TabPFN, avec une température d'attention sensible à la longueur pour que l'attention softmax ne se dissolve pas quand une table d'inférence est bien plus grande qu'une table d'entraînement. Les valeurs manquantes n'ont pas besoin d'imputation.
Des poids ouverts venus de bénévoles et d'un institut d'État
Deux sorties du 30 septembre n'avaient aucune entreprise derrière elles, ou une entreprise d'État. Coop est un petit modèle de langue préentraîné par des bénévoles, sans serveur, sans financement et sans démon. La boucle d'entraînement tourne sur du matériel grand public donné plus les offres gratuites de Hugging Face et de GitHub Actions, selon son dépôt GitHub. L'étape 2 est en cours : un transformeur décodeur seul d'environ 145 000 000 de paramètres, préentraîné de zéro sur FineWeb-Edu, avec 12 couches, 14 têtes, d=896, un contexte de 1 024 tokens et un vocabulaire BPE au niveau octet de 32 000. L'étape 1, un modèle de 15 000 000 sur TinyStories, s'est achevée au-delà de son budget optimal Chinchilla avec une perte de validation passant de 9,01 à 2,8 en six jours.
Le mécanisme est l'histoire. Les workers téléchargent le point de contrôle courant, exécutent des étapes AdamW locales sur un fragment de données personnel, calculent un pseudo-gradient et le soumettent comme pull request contre un dépôt public de jeux de données Hugging Face. Une tâche cron GitHub Actions sans état, planifiée toutes les cinq minutes mais qui se déclenche en pratique à quelques minutes ou quelques heures d'intervalle, lit le point de contrôle et les pull requests de la boîte ouverte, écarte les soumissions trop anciennes, écrête et applique un portail cosinus aux autres, les agrège par moyenne tronquée ou médiane géométrique, fait une étape externe de Nesterov, téléverse le nouveau point de contrôle, crédite les contributeurs dans le registre et ferme les pull requests traitées.
Le dépôt est franc sur l'évaluation. Une seule perte de validation ne dit rien, car les étapes externes la font monter aussi souvent que descendre, donc le classement ajuste une pente sur la série en fonction des tokens plutôt que des étapes externes et la rapporte avec une erreur standard. « En baisse » signifie que la pente dépasse deux erreurs standard. C'est une règle de reporting plus honnête que ce que la plupart des laboratoires financés parviennent à faire.
Le même jour, le UK AI Security Institute et Meridian Labs ont publié Inspect, un cadre open source pour les évaluations d'IA de pointe. Inspect couvre le code, les tâches agentiques, le raisonnement, les connaissances, le comportement et la compréhension multimodale, et livre plus de 200 évaluations prêtes à l'emploi. Ses briques sont les jeux de données, les solveurs et les scoreurs. Il prend en charge l'appel d'outils, y compris les outils MCP et les outils intégrés bash, python, recherche web et ordinateur, exécute des agents externes arbitraires comme Claude Code, Codex CLI et Gemini CLI, et isole le code de modèle non fiable dans Docker, Kubernetes, Modal, Proxmox et Vagrant via une API d'extension. Le calendrier est éloquent. L'outillage d'évaluation d'un institut de sûreté gouvernemental arrive la même semaine où un régulateur américain a ouvert une enquête sectorielle sur des agents d'IA qui se comportent mal.
Les poids ouverts entrent dans la pile de puces chinoise
Deepseek publie des outils de programmation open source pour les puces d'IA de Huawei, selon un message sur le canal WeChat officiel de Deepseek, Reuters rapportant cette ouverture. La pièce maîtresse est TileLang, un langage de programmation open source pour puces d'IA développé à l'origine par des chercheurs de l'Université de Pékin, que Deepseek utilise depuis environ un an et décrit désormais comme son principal outil pour travailler sur l'intelligence artificielle générale, selon The New York Times.
Le logiciel comprend des bibliothèques pour le calcul et pour le déplacement de données entre puces. Selon Deepseek, Huawei a « pleinement soutenu » le travail, et les deux entreprises ont optimisé un supernœud, un cluster de 128 puces Ascend 950. Deepseek soutient que quiconque veut bâtir un écosystème logiciel indépendant pour puces d'IA a d'abord besoin d'un langage universel, facile à programmer mais qui tire encore toute la performance du matériel, et affirme que TileLang offre un modèle de programmation plus simple que CUDA.
Cela rejoint un débat plus large sur l'endroit où réside l'avantage de Nvidia. Le cabinet SemiAnalysis, après avoir testé la puce d'inférence Jalapeno d'OpenAI, a qualifié le fossé CUDA de « potentiellement mort » parce qu'OpenAI fait tourner de nouveaux modèles sur son propre matériel si vite, et a déclaré que Jalapeno battait le Blackwell de Nvidia en performance par watt dans la plupart des scénarios testés. SemiAnalysis y a joint ses propres réserves : les tests couvraient des scénarios relativement faciles à optimiser, d'environ 8 000 tokens d'entrée et 1 000 tokens de sortie, et il n'a pas encore fait tourner AgentX, le benchmark pour tâches agentiques multi-étapes. En août, SemiAnalysis avait trouvé Nvidia largement en tête sur ce benchmark, et estimait que Nvidia resterait moins cher par token qu'AMD même si AMD donnait son matériel, parce que l'avantage tient au logiciel qui relie de nombreuses puces en un seul système. Les puces de Huawei ne faisaient pas partie de la comparaison AgentX.
Il y a aussi une pression intérieure. Huawei admet ne pas suivre la demande chez lui, et prévoit donc de vendre moins de puces à l'étranger. À propos des contrôles américains à l'exportation, Eric Xu, président tournant actuel de Huawei, a déclaré que l'entreprise ne peut pas accepter un avenir suspendu à la volonté d'autres de vendre des puces à la Chine.
Ce qu'il faut surveiller
Le schéma commun à ces sorties est que les poids ouverts ne se limitent plus aux points de contrôle de chatbots. Ils arrivent sous forme d'encodeurs vocaux assez petits pour un ordinateur portable, de prédicteurs tabulaires visant les tables d'entreprise, de harnais d'évaluation d'un organisme public de sûreté, de boucles d'entraînement bénévoles qui tournent sur des offres gratuites, et désormais d'outils de programmation pour une pile d'accélérateurs non Nvidia.
Deux choses restent en suspens. D'abord, les affirmations de benchmark pour Phonon-2 et Kumo Tabular sont dans ce dossier des affirmations d'entreprise ou de mainteneur, et aucune des trois sorties de modèles n'a de reproduction indépendante attachée. Ensuite, le tableau réglementaire évolue dans la direction opposée aux sorties : l'enquête de la FTC sur Anthropic, OpenAI et Metr est la première action officielle d'application américaine touchant des agents d'IA dévoyés, comme The Guardian l'a rapporté le 30 septembre.
Les poids ouverts ne tranchent rien de tout cela. Ils déplacent seulement le débat vers du matériel que plus de gens peuvent faire tourner.
Sources
7- 01OpenAI and Synopsys team up to build an AI model that designs chips like a seasoned engineerEN
- 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
- 03NVIDIA Kumo Tabular Sets a New Accuracy-Efficiency Frontier for Tabular PredictionEN
- 04Coop: A small language model pretrained by volunteersEN
- 05Inspect: An open-source framework for large language model evaluationsEN
- 06China's AI industry closes ranks as Deepseek ships open-source software for Huawei's Ascend chipsEN
- 07US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.