OpenAI et Synopsys signent un accord pluriannuel pour GPT-Synopsys, un modèle de conception de puces

The Decoder a révélé l'accord le 30 septembre, quelques heures après la journée des développeurs d'OpenAI à San Francisco. Synopsys édite des logiciels d'automatisation de la conception électronique, les outils dont les ingénieurs se servent pour concevoir des puces et des semi-conducteurs. Dans le cadre du partenariat, OpenAI prend une licence sur ces outils EDA et les combine à ses propres modèles.

L'objectif affiché : un modèle capable de « raisonner sur la conception et la vérification des puces, et d'utiliser directement les outils de Synopsys ». Les ingénieurs délégueraient les objectifs de conception, puis examineraient et approuveraient le résultat. Le modèle tourne sur l'infrastructure d'OpenAI. Les deux entreprises affirment que les données des clients ne serviront pas à l'entraînement et seront stockées sous forme chiffrée. Des tests préliminaires avec des clients du secteur des semi-conducteurs sont déjà en cours. Les deux sociétés commercialiseront le produit ensemble et partageront les revenus. La même semaine a apporté une série de sorties de modèles ouverts, de la reconnaissance vocale aux données tabulaires, ainsi que des nouvelles répressives de la part des régulateurs.

Les poids ouverts continuent d'arriver

Fermion Research a publié Phonon-2 le 30 septembre, un modèle de reconnaissance vocale en anglais qui tient dans un téléchargement de 164 MB. Sur les sept ensembles anglais du Open ASR Leaderboard, il affiche une moyenne de 5,21 pour cent d'erreur de mot, selon l'entreprise, et tous les modèles ouverts qui font mieux sont au moins 5,8 fois plus gros. Les poids sont publiés sous licence CC-BY-4.0, celle de Parakeet TDT 0.6B v3 de NVIDIA, dont ils dérivent.

NVIDIA a sorti Kumo Tabular le 29 septembre, un modèle de fondation ouvert pour la classification et la régression tabulaires. Il prédit les étiquettes en une seule passe avant, sans entraînement ni ingénierie des variables, et sort sous licence OpenMDW-1.1 pour un usage commercial. L'entreprise affirme qu'il occupe la première place sur TabArena, BeyondArena, TALENT et ScoringBench. Il existe en trois tailles, de 28M à 215M de paramètres.

Des bénévoles ont choisi une autre voie. Le projet Coop, mis à jour le 30 septembre, entraîne un modèle d'environ 145M de paramètres à partir de zéro sur FineWeb-Edu, en utilisant du matériel donné et les offres gratuites de Hugging Face et GitHub Actions. Les gradients arrivent sous forme de pull requests ; une tâche GitHub Actions planifiée les agrège toutes les cinq minutes, même si le projet note que l'ordonnanceur partagé de GitHub peut se déclencher de quelques minutes à plusieurs heures d'intervalle. L'étape 1, un modèle de 15M sur TinyStories, a dépassé son budget optimal selon Chinchilla en six jours, avec une perte de validation passant de 9,01 à 2,8.

Également le 30 septembre, l'UK AI Security Institute et Meridian Labs ont détaillé Inspect, un cadre d'évaluation open source qui embarque plus de 200 évaluations prêtes à l'emploi et permet d'exécuter du code de modèle non fiable dans Docker, Kubernetes et d'autres bacs à sable. Sur GitHub, un développeur a publié PSSA, un modèle de langage non transformer écrit en Rust sans framework de ML en dessous. Il apprend plus vite qu'un transformer à paramètres égaux et génère environ douze fois plus rapidement sur le même CPU, affirme-t-il.

Les régulateurs s'attaquent aux agents

The Guardian a rapporté le 30 septembre que la FTC a ouvert une enquête à l'échelle du secteur sur Anthropic, OpenAI et d'autres laboratoires, sa première action officielle de répression visant des agents d'IA incontrôlés, et prévoit d'obliger des dirigeants à témoigner, notamment au sein du groupe de recherche Metr. Ars Technica a rapporté le même jour qu'OpenAI n'entrera pas en bourse tant qu'elle ne pourra pas « prendre des décisions de sécurité en confiance », et qu'une organisation à but non lucratif, Legal Advocates for Safe Science & Technology, a déposé une plainte en Californie pour réclamer de meilleures pratiques d'évaluation, de surveillance et de formation.