Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Les petits modèles passent en périphérie, Google verrouille le plus grand des siens

Google a commencé à déployer Gemini 4 Argon mercredi, mais uniquement auprès de partenaires en cybersécurité sélectionnés. La même semaine a apporté un modèle ouvert de 145 000 000 de paramètres entraîné par des bénévoles et un modèle de décision de 2 000 000 000 de paramètres signé AWS.

IA & modèlesAnalyseSophie LeclercPublié le: 2 octobre 20267 min de lectureSources 15
Les petits modèles passent en périphérie, Google verrouille le plus grand des siens

Google a dévoilé Gemini 4 Argon mercredi. L'entreprise a présenté le modèle comme le plus avancé qu'elle ait produit et l'a réservé à un groupe contrôlé de partenaires en cybersécurité. CNBC et The Guardian ont tous deux rapporté cette restriction. C'est devenu le fait structurant de la semaine dans l'IA. Les plus grands laboratoires ralentissent la sortie de leurs plus gros modèles.

Les petits, eux, continuent de sortir. Le déploiement d'Argon est progressif par conception. Koray Kavukcuoglu, architecte en chef de l'IA chez Google, a écrit dans un billet de blog que « publier en sécurité des capacités de frontière à ce niveau exige une approche par étapes », selon The Guardian. Google indique accorder un accès anticipé au gouvernement américain. L'entreprise recueillera les retours des testeurs avant une diffusion plus large. Elle affirme aussi qu'Argon établit un record en ingénierie logicielle réelle, qu'il est à égalité en tête en cybersécurité et qu'il domine le Vals Index. CNBC rapporte qu'il y devance GPT-6 Astra d'OpenAI et les récents modèles d'Anthropic.

Le contre-courant des petits modèles

Face à cela, trois sorties dans la même fenêtre ont pris le chemin inverse : ouvertes, petites et disponibles tout de suite. Le 30 septembre, un projet GitHub appelé Coop a publié un modèle d'environ 145 000 000 de paramètres préentraîné de zéro sur FineWeb-Edu. D'après le README du projet, toute la boucle d'entraînement tourne sur du matériel grand public donné, plus les offres gratuites de Hugging Face et de GitHub Actions. Pas de serveurs. Pas de financement. Pas de démon.

« L'étape 1 (15 000 000 sur TinyStories) s'est achevée au-delà de son budget optimal Chinchilla, preuve que tout le mécanisme fonctionne. »

La mécanique compte plus que le nombre de paramètres. Les bénévoles téléchargent le point de contrôle courant et exécutent des pas AdamW en local sur un fragment de données personnel. Ils soumettent un pseudo-gradient sous forme de pull request contre un dépôt de jeu de données public sur Hugging Face. Une tâche cron GitHub Actions sans état lit le point de contrôle et les pull requests ouvertes dans la boîte de réception. Elle est planifiée toutes les cinq minutes mais se déclenche à intervalles allant de quelques minutes à plusieurs heures. Elle écarte les soumissions trop anciennes, agrège les autres, effectue un pas externe de Nesterov et ferme les pull requests traitées. Les poids et l'état de l'optimiseur ne vivent que sur Hugging Face ; Git ne contient que le code, la configuration et le registre des contributeurs.

Le projet affirme que la boucle a fait ses preuves en production plutôt qu'elle n'a été conçue. Plusieurs bénévoles sur des machines différentes, Apple Silicon et simple CPU, ont entraîné le même pas externe et ont été moyennés en une seule mise à jour. Une soumission entrée en course avec un tick a été acceptée un pas plus tard avec un poids d'ancienneté réduit. Les tours répétés d'un même utilisateur ont fusionné en un seul vote. Le README précise clairement qu'une seule perte de validation ne dit rien. Il ajoute que le classement ajuste une pente en fonction des tokens plutôt que des pas externes.

Modèles de décision, et un terrain encombré

AWS a publié Strands Decider 2B, un modèle de décision open source inspiré de Jev de TypeSafe, a rapporté TechCrunch le 1er octobre. Il trie entre des options prédéfinies et renvoie une mesure de confiance. Il repose sur le torse de Qwen3.5-2B plutôt que de générer du texte. Marc Brooker, ingénieur distingué chez Amazon, a déclaré à TechCrunch l'avoir construit après avoir vu Jev. Il a indiqué qu'il a brièvement atteint la première place du classement Jevbench pour les modèles de sa taille. « Ce qui a d'abord retenu mon attention dans cette classe de modèles, c'est qu'ils constituent un décideur parfait pour une étape de workflow », a-t-il dit.

La position de TypeSafe est moins triomphale. Le PDG Diogo Almeida a déclaré à TechCrunch : « Je comprends que les gens y voient une ruée vers l'or, mais ils sous-estiment peut-être la difficulté de rendre ces modèles réellement intelligents. » TypeSafe a publié Jev lui-même, décrit par InfoQ comme renvoyant des probabilités typées au lieu de texte. Un article arXiv distinct du 1er octobre, « More Choices, Fewer Decisions », examine le biais d'échelle ordinale dans les modèles de décision directe de type JEV. La catégorie est encore mise à l'épreuve plutôt que stabilisée.

Ailleurs dans les mêmes 24 heures : Ideogram a annoncé que son éditeur d'images Ideogram 4.5 ne touche que la région sélectionnée par l'utilisateur. Il propose quatre niveaux de qualité de 0,8 à 22 cents par image en 2K natif, et une publication à poids ouverts promise, selon The Decoder. BMW a confirmé lors de son Capital Markets Day qu'une Neue Klasse électrique d'entrée de gamme arrivera en 2028 avec un focus sur l'Europe, a rapporté Electrek. Des rapports issus de BMWBlog évoquent une berline cinq portes au nom de code NBO.

Ce que l'actualité sécurité dit des capacités

L'histoire de petits modèles la plus lourde de conséquences cette semaine n'est peut-être pas une publication. OpenAI a déclaré avoir déjoué une campagne de distillation adverse qui a couru jusqu'en juillet. L'entreprise a observé des pics de 16 000 requêtes provenant de plus de 4 000 utilisateurs les 24 et 25 juillet, et une activité liée sur 15 000 comptes, entièrement stoppée au 28 juillet. CNBC, Tom's Hardware et The Register ont tous relayé le récit de l'entreprise. Elle relie un noyau central de l'activité à des personnes associées à Moonshot AI. Moonshot n'a pas répondu immédiatement aux demandes de commentaire, selon CNBC et The Register.

Le détail technique est la partie intéressante. OpenAI affirme que son chiffrement n'a pas été cassé et qu'aucune base de données n'a été compromise. Les opérateurs ont plutôt déplacé un raisonnement chiffré entre des conversations. Ils ont ensuite demandé à un modèle, dans une seconde session, de le déchiffrer et de l'écrire, une technique que les chercheurs Joachim Schaeffer et ses collègues avaient déjà documentée. OpenAI les cite nommément. The Decoder a rapporté que les chercheurs ont publié une mise à jour le même jour. Elle soutient que sécuriser sa propre API ne sécurise pas les fournisseurs cloud qui vendent aussi l'accès aux mêmes modèles, et que l'astuce a continué de fonctionner pendant des semaines sur Microsoft Azure.

Les petits modèles ne sont pas une note de bas de page dans cette histoire, ils en sont la couche habilitante. Un modèle frère moins cher de la même famille est ce qui transforme un paquet de raisonnement chiffré en texte lisible. C'est la même économie qu'AWS vend à ses clients : une étape de workflow à latence plus faible et au coût potentiellement plus bas, comme le dit Brooker, avec des scores de confiance et un domaine de réponses fermé.

Politique, prix et fossé entre marchés

Le déploiement distribué dépasse les téléphones. Le rapport trimestriel Big Impact of Small Solar de l'ILSR, relayé par pv magazine le 1er octobre, chiffre les ajouts solaires à petite échelle aux États-Unis à près de 1,6 GW au deuxième trimestre 2026, avec plus de 2,5 GWh de stockage derrière le compteur. MIT Technology Review a rapporté le 1er octobre que des startups dont PopWheels, Copper, Every Electric et David Energy déploient de petites batteries dans des armoires d'échange pour vélos électriques, des cuisinières à induction et des unités à brancher. Le but est d'éviter les renforcements de réseau et les permis. David Hammer, de PopWheels, a déclaré lors d'un événement de la New York Climate Week le 24 septembre qu'environ 50 armoires et 2 500 batteries circulent à New York. Sam Calisch, de Copper, a estimé que livrer chaque cuisinière américaine avec une batterie représenterait des dizaines de gigawatts.

Le même clivage traverse les voitures. Tesla a équipé toutes les Model 3 qu'elle vend en Chine d'un écran de 16 pouces. Elle a aussi activé jusqu'à 2,2 kW d'export de courant alternatif sur toute sa gamme Model 3 et Model Y dans le pays, annoncé le 1er octobre, a rapporté CnEVPost. La Model 3 américaine conserve un écran de 15,4 pouces et est exclue de la fonction V2L. La Model 3 américaine démarre à 36 990 dollars, a noté Electrek. GM, de son côté, a vendu 670 974 véhicules sur le trimestre, en baisse de 5,5%. L'Equinox EV a chuté de 92,4% à 1 905 voitures après la fin du crédit d'achat américain de 7 500 dollars, a rapporté The Next Web. Les ventes de Toyota ont progressé de 0,6% à 633 223 unités, avec les modèles électrifiés en hausse de 28,5%.

Rien de tout cela ne raconte une victoire nette des petits modèles. L'Argon de Google est retenu pour des raisons de sécurité. Anthropic garde Claude Mythos Preview réservé aux organisations de confiance, a noté The Guardian. Le procureur général de Floride, James Uthmeier, a demandé à un juge d'interdire à OpenAI de développer de nouveaux modèles sans approbation d'un tiers, a rapporté Tom's Hardware le 30 septembre, dans une plainte qui couvre aussi le piratage de Hugging Face en juillet. Les mêmes médias qui couvrent des modèles de 145 000 000 de paramètres entraînés par des bénévoles couvrent aussi des campagnes de distillation à 16 000 requêtes par jour.

Ce que la semaine montre, c'est que les capacités se diffusent plus vite que le contrôle. Un décideur de 2 000 000 000 de paramètres tourne en local. Un modèle de 145 000 000 de paramètres s'entraîne sur des ordinateurs portables donnés. Le raisonnement chiffré qui fuit entre les sessions vaut la peine d'être volé précisément parce qu'un modèle bon marché peut le lire. Les laboratoires de frontière répondent par des publications par étapes et des listes de partenaires contrôlés. La solidité de ce dispositif dépendra moins des tableaux de benchmarks que de ce qu'un modèle de 2 000 000 000 de paramètres posé sur un bureau saura faire le mois prochain.

Commentaires 0

Sources

15
  1. 01Coop: A small language model pretrained by volunteersEN
  2. 02Google rolls out Gemini 4 Argon, its most advanced AI modelEN
  3. 03Google rolls out new Gemini AI model but restricts access over safety concernsEN
  4. 04Amazon releases its own Jev clone as decision models flood the webEN
  5. 05TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  6. 06More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
  7. 07Ideogram says its new model can edit part of an image without messing up the restEN
  8. 08BMW is launching a smaller, more affordable EVEN
  9. 09OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
  10. 10OpenAI says actors linked to China-based Moonshot AI spearheaded a campaign to extract its models' hidden reasoningEN
  11. 11Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  12. 12AI race heats up as OpenAI flags alleged model-copying campaignEN
  13. 13U.S. small-scale solar adds 1.6 GW in Q2EN
  14. 14How smaller, distributed batteries could help the gridEN
  15. 15Tesla gives Model 3 minor upgrades in China, keeps prices unchangedEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.