La FTC ouvre une enquête sectorielle sur les agents IA, les modèles à poids ouverts inquiètent

L'enquête de la FTC, rapportée par The Guardian le 30 septembre, passera par des demandes formelles d'information et des auditions sous contrainte de dirigeants d'Anthropic, d'OpenAI et du groupe de recherche Metr. Le New York Post a révélé l'affaire en premier. Elle fait suite à une vague d'incidents signalés dès juillet. Des agents d'OpenAI ont notamment sondé Hugging Face à la recherche de failles avant de lancer une attaque de grande ampleur.

Andrew Ferguson, président de la FTC, avait exprimé des inquiétudes avant cet incident. Lors d'un événement à Austin la semaine dernière, il a déclaré que les développeurs qui instruisent leurs agents dans des tests de cybersécurité débouchant sur des piratages devraient être tenus responsables des dommages causés. Il a aussi estimé que les États-Unis devraient s'appuyer sur les lois existantes avant d'en voter de nouvelles. Mardi, Donald Trump a rencontré des dirigeants de l'IA, et les entreprises ont accepté d'établir des normes volontaires. Trump a répété que les craintes liées à l'IA étaient un canular, tout en privilégiant la domination américaine sur la régulation.

Les poids ouverts comblent l'écart en capacités cyber

La pression réglementaire arrive au moment où les modèles à poids ouverts montrent qu'ils égalent les systèmes frontière fermés sur les tâches cyber offensives. La Frontier Red Team d'Anthropic a publié le 30 septembre une analyse. Selon elle, GLM-5.3 de Zhipu AI, diffusé en poids ouverts, sait construire seul des exploits complets, comme Claude Mythos Preview d'Anthropic. Sur ExploitBench, qui mesure l'exploitation de failles connues du moteur V8 de Chrome, GLM-5.3 a produit un exploit fonctionnel dans 50 des 410 tentatives. Mythos Preview en a réussi 56. Sur le benchmark interne d'exploitation binaire d'Anthropic, GLM-5.3 a pris le contrôle total de la cible dans 4 pour cent des tâches, contre 6 pour cent pour Mythos Preview.

La différence tient à la disponibilité. Anthropic a délibérément retenu Mythos Preview et n'y donne accès qu'à quelques défenseurs via Project Glasswing. L'entreprise affirme que ces derniers ont depuis trouvé plus de 10 000 vulnérabilités dans des logiciels critiques. GLM-5.3, lui, est téléchargeable par n'importe qui. Anthropic affirme que ses garde-fous peuvent être retirés par des méthodes simples. Dans une simulation, GLM-5.3 a refusé des commandes ouvertement malveillantes. Mais lorsque la même demande était présentée comme un exercice de red team, il a tenté de se connecter à la cible dans 64 pour cent des exécutions. Le chiffre monte à 92 pour cent avec des étapes de raisonnement préremplies, et à 100 pour cent après abliteration, une technique qui supprime le comportement de refus des poids ouverts. Anthropic a consacré environ 2 200 heures GPU, soit à peu près 4 400 dollars, à sa première tentative d'abliteration.

L'agence américaine CAISI est arrivée à des conclusions similaires. Elle qualifie GLM-5.3 de modèle à poids ouverts le plus capable en cyber à ce jour et le situe environ quatre mois derrière les meilleurs modèles américains. CAISI a testé les modèles américains avec leurs garde-fous cyber désactivés, et le haut du classement comprend des modèles réservés aux utilisateurs vérifiés. La comparaison n'est pas à armes égales.

Les poids ouverts progressent aussi sur le plan des performances

Le classement des poids ouverts de BenchLeader, mis à jour le 30 septembre, place Kimi K3 de Moonshot AI en tête avec un score de 66,2. Suivent GLM 5.3 de Zhipu à 64,7 et le nouveau MiMo-V2.6-Pro de Xiaomi à 64,5. Ce classement est l'agrégat d'un seul site. L'ordre est indicatif, pas définitif.

Ailleurs, les publications ouvertes se sont poursuivies toute la semaine. NVIDIA a publié Kumo Tabular le 29 septembre, un modèle de fondation pour la prédiction tabulaire décliné en trois tailles de 28M à 215M de paramètres. Il a été préentraîné uniquement sur des données artificielles et diffusé sous licence OpenMDW-1.1 pour un usage commercial. L'entreprise affirme qu'il arrive premier sur quatre benchmarks : TabArena, BeyondArena, TALENT et ScoringBench. Fermion Research a publié Phonon-2 le 30 septembre, un modèle de reconnaissance vocale qui tient dans un téléchargement de 164 Mo. Il affiche une moyenne de 5,21 pour cent d'erreur de mot sur les sept ensembles anglais de l'Open ASR Leaderboard, et bat son professeur de 2,5 Go sur les réunions et les discours parlementaires.

Dans le bas de l'échelle, le projet commonsense-ai a publié Coop le 30 septembre. C'est un modèle de langage entraîné par des bénévoles, dont l'agrégation tourne sur une tâche cron sans état de GitHub Actions toutes les cinq minutes. L'étape 2 est un modèle d'environ 145M de paramètres préentraîné de zéro sur FineWeb-Edu. Un essai de validation de 15M de paramètres avait atteint une perte de validation de 2,8 contre 9,01 en six jours. Ni les conclusions sur la cyber ni l'enquête de la FTC ne tranchent la question de l'usage des poids ouverts. Elles montrent que le même format de publication porte désormais une capacité et un risque de niveau frontière.