Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Les petits modèles gagnent la périphérie, Google verrouille le sien

Google a commencé mercredi à déployer Gemini 4 Argon, mais seulement auprès de partenaires en cybersécurité triés sur le volet. La même semaine, un modèle ouvert de 145M paramètres entraîné par des bénévoles et un modèle de décision 2B signé AWS voyaient le jour. La frontière et la périphérie s'éloignent l'une de l'autre.

IA & modèlesAnalyseSophie LeclercPublié le: 2 octobre 20267 min de lectureSources 15
Les petits modèles gagnent la périphérie, Google verrouille le sien

Google a dévoilé Gemini 4 Argon mercredi. Le groupe le présente comme son modèle le plus avancé à ce jour et le réserve à un groupe vérifié de partenaires en cybersécurité. CNBC et The Guardian ont rapporté cette retenue, et c'est devenu le fait marquant de la semaine dans l'IA. Les plus grands laboratoires ralentissent leurs plus gros modèles.

Les petits, eux, continuent de sortir. Le déploiement d'Argon est phasé par construction. Koray Kavukcuoglu, architecte IA en chef de Google, écrit dans un billet de blog que « publier en sécurité des capacités de frontière à ce niveau exige une approche par étapes », selon The Guardian. Google dit donner un accès anticipé au gouvernement américain et recueillir les retours des testeurs avant une sortie plus large. L'entreprise affirme aussi qu'Argon établit un record en ingénierie logicielle réelle, qu'il est à égalité en tête en cybersécurité et qu'il domine le Vals Index, où CNBC le place devant GPT-6 Astra d'OpenAI et les récents modèles d'Anthropic.

Le contre-courant des petits modèles

Face à cela, trois sorties dans la même fenêtre ont pris le chemin inverse : ouvertes, petites et disponibles tout de suite. Le 30 septembre, un projet GitHub nommé Coop a publié un modèle d'environ 145M paramètres pré-entraîné de zéro sur FineWeb-Edu. D'après le README du projet, toute la boucle d'entraînement tourne sur du matériel grand public donné, plus les offres gratuites de Hugging Face et de GitHub Actions. Pas de serveurs. Pas de financement. Pas de démon.

« L'étape 1 (15M sur TinyStories) s'est achevée au-delà de son budget optimal selon Chinchilla, preuve que tout le mécanisme fonctionne. »

La mécanique compte plus que le nombre de paramètres. Les bénévoles téléchargent le checkpoint courant, exécutent des pas AdamW en local sur un fragment de données personnel, puis soumettent un pseudo-gradient sous forme de pull request contre un dépôt public de jeux de données Hugging Face. Une tâche cron GitHub Actions sans état, programmée toutes les cinq minutes mais se déclenchant aussi bien en quelques minutes qu'en plusieurs heures, lit le checkpoint et les PR ouvertes, écarte les soumissions trop anciennes, agrège le reste, effectue un pas externe de Nesterov et ferme les PR traitées. Les poids et l'état de l'optimiseur ne vivent que sur Hugging Face ; Git conserve le code, la configuration et le registre des contributeurs.

Le projet affirme que la boucle est éprouvée en production plutôt que conçue sur le papier. Plusieurs bénévoles, sur des machines différentes, Apple Silicon et simple CPU, ont entraîné le même pas externe, ensuite moyenné en une seule mise à jour. Une soumission lancée en même temps qu'un tick a été acceptée un pas plus tard, avec un poids de retard réduit. Les tours répétés d'un même utilisateur ont fusionné en un seul vote. Le README précise qu'une seule perte de validation ne dit rien, et que le classement ajuste une pente en fonction des tokens plutôt que des pas externes.

Modèles de décision, et un terrain encombré

AWS a publié Strands Decider 2B, un modèle de décision open source inspiré du Jev de TypeSafe, rapporte TechCrunch le 1er octobre. Il trie entre des options prédécidées et renvoie une mesure de confiance. Il est construit sur le torse de Qwen3.5-2B et ne génère pas de texte. Marc Brooker, ingénieur distingué chez Amazon, a déclaré à TechCrunch l'avoir construit après avoir vu Jev, et avoir brièvement atteint la première place du classement Jevbench pour les modèles de sa taille. « Ce qui a d'abord éveillé mon intérêt pour cette classe de modèles, c'est qu'ils font un décideur parfait pour une étape de workflow », a-t-il dit.

La position de TypeSafe est moins triomphale. Son PDG Diogo Almeida a déclaré à TechCrunch : « Je comprends que les gens pensent que c'est une ruée vers l'or, mais ils sous-estiment peut-être la difficulté de rendre ces modèles réellement intelligents. » TypeSafe a publié Jev lui-même, décrit par InfoQ comme renvoyant des probabilités typées au lieu de texte. Un article arXiv distinct du 1er octobre, « More Choices, Fewer Decisions », examine le biais d'échelle ordinale dans les modèles à décision directe de type JEV. La catégorie est encore mise à l'épreuve plutôt que stabilisée.

Ailleurs dans les mêmes 24 heures : Ideogram a indiqué que son éditeur d'images Ideogram 4.5 ne touche que la région sélectionnée par l'utilisateur, avec quatre niveaux de qualité de 0,8 à 22 cents par image en 2K natif, et une publication en poids ouverts promise, selon The Decoder. BMW a confirmé lors de son Capital Markets Day qu'un VE Neue Klasse d'entrée de gamme arrivera en 2028 avec un accent sur l'Europe, rapporte Electrek, des informations issues de BMWBlog pointant vers une berline cinq portes au nom de code NBO.

Ce que les nouvelles de sécurité disent des capacités

L'histoire de petit modèle la plus lourde de conséquences de la semaine n'est peut-être pas une publication du tout. OpenAI a déclaré avoir déjoué une campagne de distillation adverse qui a couru jusqu'en juillet, avec des pics de 16 000 requêtes provenant de plus de 4 000 utilisateurs les 24 et 25 juillet et une activité liée sur 15 000 comptes, entièrement stoppée au 28 juillet. CNBC, Tom's Hardware et The Register ont tous repris le récit de l'entreprise, qui relie un noyau central de l'activité à des personnes associées à Moonshot AI. Moonshot n'a pas répondu immédiatement aux demandes de commentaire, selon CNBC et The Register.

Le détail technique est la partie intéressante. OpenAI affirme que son chiffrement n'a pas été cassé et qu'aucune base de données n'a été compromise. Les opérateurs ont plutôt déplacé du raisonnement chiffré entre conversations et ont demandé à un modèle, dans une seconde session, de le déchiffrer et de l'écrire. Les chercheurs Joachim Schaeffer et ses collègues avaient déjà documenté cette technique, et OpenAI les cite nommément. The Decoder rapporte que les chercheurs ont publié le même jour une mise à jour : sécuriser sa propre API ne sécurise pas les fournisseurs cloud qui vendent aussi l'accès aux mêmes modèles, et l'astuce a continué de fonctionner pendant des semaines sur Microsoft Azure.

Les petits modèles ne sont pas une note de bas de page dans cette histoire, ils en sont la couche habilitante. Un modèle frère moins cher de la même famille est ce qui transforme un paquet de raisonnement chiffré en texte lisible. C'est la même économie qu'AWS vend à ses clients : une étape de workflow à latence plus faible et au coût potentiellement moindre, comme l'a formulé Brooker, avec des scores de confiance et un domaine de réponses fermé.

Politique, prix et l'écart entre les marchés

Le déploiement distribué s'étend au-delà des téléphones. Le rapport trimestriel Big Impact of Small Solar de l'ILSR, couvert par pv magazine le 1er octobre, chiffre les ajouts américains de solaire à petite échelle à près de 1,6 GW au deuxième trimestre 2026, aux côtés de plus de 2,5 GWh de stockage derrière le compteur. MIT Technology Review rapporte le 1er octobre que des startups, dont PopWheels, Copper, Every Electric et David Energy, déploient de petites batteries dans des armoires d'échange de vélos électriques, des plaques à induction et des unités à brancher, évitant les renforcements de réseau et les permis. David Hammer de PopWheels a déclaré lors d'un événement New York Climate Week le 24 septembre qu'environ 50 armoires et 2 500 batteries circulent à New York ; Sam Calisch de Copper a dit que livrer chaque cuisinière américaine avec une batterie représenterait jusqu'à des dizaines de gigawatts.

Le même clivage traverse les voitures. Tesla a mis à niveau chaque Model 3 vendu en Chine avec un écran de 16 pouces et activé jusqu'à 2,2 kW d'export d'électricité en courant alternatif sur toute sa gamme Model 3 et Model Y dans le pays, annonce du 1er octobre, rapporte CnEVPost. Le Model 3 américain garde un écran de 15,4 pouces et est exclu de la fonction V2L. Le Model 3 américain de Tesla démarre à 36 990 dollars, note Electrek. GM, de son côté, a vendu 670 974 véhicules dans le trimestre, en baisse de 5,5 %, avec l'Equinox EV en recul de 92,4 % à 1 905 voitures après la fin du crédit d'achat américain de 7 500 dollars, rapporte The Next Web. Les ventes de Toyota ont progressé de 0,6 % à 633 223 unités, les modèles électrifiés gagnant 28,5 %.

Rien de tout cela ne raconte une victoire nette des petits modèles. L'Argon de Google est retenu pour des raisons de sécurité, et Anthropic garde Claude Mythos Preview réservé aux organisations de confiance, note The Guardian. Le procureur général de Floride James Uthmeier a demandé à un juge d'interdire à OpenAI de développer de nouveaux modèles sans approbation d'un tiers, rapporte Tom's Hardware le 30 septembre, dans une procédure qui couvre aussi le piratage de Hugging Face en juillet. Les mêmes médias qui couvrent des modèles de 145M entraînés par des bénévoles couvrent aussi des campagnes de distillation à 16 000 requêtes par jour.

Ce que la semaine montre, c'est que la capacité se diffuse plus vite que le contrôle. Un décideur 2B tourne en local. Un modèle de 145M s'entraîne sur des ordinateurs portables donnés. Le raisonnement chiffré qui fuit entre les sessions vaut la peine d'être volé précisément parce qu'un modèle bon marché peut le lire. Les laboratoires de frontière répondent par des publications phasées et des listes de partenaires vérifiés. La suite dépendra moins des tableaux de benchmarks que de ce qu'un modèle 2B posé sur un bureau saura faire le mois prochain.

Commentaires 0

Sources

15
  1. 01Coop: A small language model pretrained by volunteersEN
  2. 02Google rolls out Gemini 4 Argon, its most advanced AI modelEN
  3. 03Google rolls out new Gemini AI model but restricts access over safety concernsEN
  4. 04Amazon releases its own Jev clone as decision models flood the webEN
  5. 05TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  6. 06More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
  7. 07Ideogram says its new model can edit part of an image without messing up the restEN
  8. 08BMW is launching a smaller, more affordable EVEN
  9. 09OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
  10. 10OpenAI says actors linked to China-based Moonshot AI spearheaded a campaign to extract its models' hidden reasoningEN
  11. 11Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  12. 12AI race heats up as OpenAI flags alleged model-copying campaignEN
  13. 13U.S. small-scale solar adds 1.6 GW in Q2EN
  14. 14How smaller, distributed batteries could help the gridEN
  15. 15Tesla gives Model 3 minor upgrades in China, keeps prices unchangedEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.