Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Les petits modèles passent sur l'appareil : Echo, Phonon-2, Strata et Nimble livrés en une semaine

Fulcrum a publié Echo le 30 septembre, un modèle d'écriture qui aurait coûté moins de 5 000 dollars à entraîner et qui bat les modèles de pointe en imitation de style. C'est l'une des quatre sorties de petits modèles ou de modèles locaux tombées le même jour, avec Phonon-2, Strata et le point d'accès aux modèles de décision d'Ollama.

IA & modèlesAnalyseCamille RousseauPublié le: 30 septembre 20268 min de lectureSources 11
Les petits modèles passent sur l'appareil : Echo, Phonon-2, Strata et Nimble livrés en une semaine

Le 30 septembre, Fulcrum a publié Echo, un modèle d'écriture qu'elle présente comme le meilleur en imitation de style. La société affirme qu'il a coûté moins de 5 000 dollars à entraîner. Selon sa page de lancement, Echo bat aussi les modèles de pointe sur des tâches d'écriture, de la fiction aux explications techniques. Le modèle n'est pas encore ouvert. Fulcrum prévoit de le publier en open source bientôt et prend les demandes de contact pour un usage à grande échelle.

L'affirmation repose sur une mesure que Fulcrum a construite elle-même. Elle a calculé des traits stylométriques standard et s'en est servie pour produire un Elo de style. Sur ce score, elle annonce l'état de l'art à la fois pour les auteurs vus à l'entraînement et pour ceux mis de côté. Il n'existe aucune mesure canonique reconnue de la qualité d'écriture, et la société le dit sur sa page. À traiter comme son propre tableau de scores tant que personne d'indépendant ne l'aura reproduit.

Fulcrum explique le faible coût par l'élicitation. Le modèle contiendrait déjà une connaissance compressée du style des auteurs. L'affinage supervisé, selon elle, apprend surtout au modèle à activer ce qui est déjà là. Son étape SFT amorce des personas avec des écrits humains tirés d'internet, enveloppés dans des plans synthétiques générés par un modèle de pointe. Elle affine ensuite sur le texte original conditionné par ce plan. Une seconde étape applique un apprentissage par renforcement au niveau du token contre une mesure de voix. Fulcrum affirme que cela transporte les gains de persona dans les requêtes de chat et corrige un coût de raisonnement qu'elle avait observé avec des données humaines hors politique.

Un détail compte pour qui utilise les détecteurs d'IA comme indicateur de contenu bâclé. Fulcrum écrit que Pangram, un détecteur, juge l'écriture d'Echo humaine plus souvent que celle des modèles de pointe. Sur des consignes un peu plus détaillées, Echo serait signalé comme humain la plupart du temps. C'est un choix de conception assumé de la part de Fulcrum, pas un accident. Cela contredit l'idée courante selon laquelle de meilleurs modèles devraient être plus faciles à repérer.

De la parole, en 164 Mo

Le même jour, Fermion Research a publié Phonon-2, un modèle de reconnaissance vocale en anglais qui tient dans un téléchargement de 164 Mo. Fermion annonce une moyenne de 5,21 % d'erreur de mot sur les sept ensembles anglais du Open ASR Leaderboard. Tous les modèles ouverts qui font mieux seraient au moins 5,8 fois plus gros. L'encodeur stocke chaque poids comme l'un de cinq niveaux appris, sur environ 2,1 bits, empaquetés en chiffres en base 3, cinq par octet.

La comparaison mise en avant est celle avec son propre professeur, un modèle pleine précision de 2,5 Go. Fermion affirme que Phonon-2 tient la précision de ce professeur ensemble par ensemble. Il atteint 100,8 % de sa précision en mots sur la parole parlementaire et le dépasse sur les réunions, pour un téléchargement 15 fois plus petit. Sur un MacBook Air, il transforme une heure d'audio en texte en une vingtaine de secondes. Sur huit cœurs de CPU, la même heure prend 25 secondes. Sur un seul H100, une journée entière d'audio prend 13 secondes par lots de 128.

Fermion reste prudent sur ses chemins rapides. Chacun n'est livré, dit-elle, que parce que son taux d'erreur de mot reste dans le bruit du chemin exact. Concrètement, un bootstrap apparié sur les extraits avec 4 000 rééchantillonnages, donnant un intervalle à 95 % qui couvre zéro. Les poids sont en CC-BY-4.0, la licence du Parakeet TDT 0.6B v3 de NVIDIA, dont ils dérivent. Le modèle tourne sur Mac, Linux, Windows et GPU NVIDIA, et la ligne de commande fermion s'installe depuis PyPI.

Les deux sorties pointent vers le même déplacement. Une capacité qui exigeait un datacenter se compresse désormais dans des fichiers qu'un portable peut contenir. Les 164 Mo de Phonon-2 sont plus petits que la plupart des bibliothèques de photos. Le budget d'entraînement d'Echo est inférieur au salaire mensuel d'un ingénieur. Aucun de ces chiffres ne dit que le modèle est bon. Tous deux disent que la barrière pour en livrer un a baissé.

Un modèle de 125 000 000 000 de paramètres sur un PC de jeu, en quelque sorte

Strata, publié sur GitHub le 30 septembre, prend le chemin inverse. Il ne réduit pas le modèle, il le diffuse en flux. Le projet propose une installation en un clic sous Windows et Linux qui fait tourner Qwen3.8-Flash-Next sur du matériel grand public. Il lit sur le SSD tout ce qui ne tient pas en mémoire. Sa documentation liste un ensemble à 2,00 bpw de 257 Go, exigeant environ 265 Go de disque libre, et une variante coder avec la moitié des experts retirés, à 191 Go.

Les chiffres mesurés sont modestes et le projet ne le cache pas. Sur une RTX 5070 avec 12 Go et 64 Go de RAM système, Strata annonce 4 à 6 tokens par seconde en sortie. Il annonce environ 110 tokens par seconde en lecture de prompt à 4K. Une RTX 3060 avec 12 Go et 46 Go de RAM atteint 9 à 11 tokens par seconde. Une seule Radeon AI PRO R9700 avec 251 Go de RAM monte à 21 à 25 tokens par seconde. Quatre de ces cartes atteignent 74 à 77.

Le matériel pris en charge est étroit et détaillé. La liste couvre les NVIDIA RTX séries 30, 40 et 50 sous Windows et Linux, la AMD Radeon AI PRO R9700 sous Linux, la AMD Ryzen AI Max Strix Halo sous Windows, et les Mac Apple Silicon avec 64 Go ou plus, en texte uniquement. Le projet est gratuit et open source, ne demande aucun compte et sert une API de style OpenAI ou Anthropic sur localhost. C'est une option réelle pour qui dispose d'un gros SSD et de patience. Ce n'est pas un remplacement pour un point d'accès hébergé.

La pile des modèles de décision se consolide

Ollama a livré la version 0.35 le 30 septembre, avec la prise en charge des modèles de décision via un nouveau point d'accès /v1/systemone, sur le modèle de l'API Jev de TypeSafe. On envoie du texte comme état plus un ensemble de questions nommées, et un modèle local répond à toutes en une seule requête. Ollama le positionne pour le tri de tickets, le routage de modèles et la modération de contenu. Il annonce Nimble 9B à 91 ms en moyenne par décision sur un M5 Max, dans son exemple Pac-Man.

Nimble est le modèle 9B de Bespoke Labs, affiné à partir de Qwen3.5-9B, et c'est l'implémentation de référence du format. Son dépôt documente la chronologie. TypeSafe a publié Jev le 14 septembre 2026, Bespoke a publié Nimble-v1 sous le nom Bespoke-Nimble-9B le 18 septembre, Ollama a ajouté Nimble-v2 le 29 septembre, et Nimble-v4 et Nimble-v4-max ont été lancés sur l'API le 13 octobre. Bespoke annonce 68,46 pour Nimble-v4-max sur la suite publique du Decision Index, 63,70 pour Nimble-v4, contre 57,96 pour Jev 1.13 et 62,25 pour Perplexity Decider v1.1. Le dépôt précise qu'il s'agit des propres exécutions de Bespoke du 12 octobre et qu'elles ne figurent pas encore sur le tableau de bord de l'index.

La page modèle d'Ollama liste trois types de questions : choisir dans une liste, répondre vrai ou faux, ou placer un élément sur une grille. Une requête peut porter jusqu'à 64 questions sur le même texte. Les questions de choix et de score prennent de 2 à 26 options. Les réponses reviennent avec des probabilités et une valeur de confiance dont Ollama précise qu'elle n'est pas la chance que la réponse soit juste. Cette réserve compte plus qu'il n'y paraît. Une réponse fausse et sûre d'elle reste fausse, et l'API vous donne le chiffre à vérifier plutôt qu'un verdict.

La pile comporte aussi une couche de distillation. Jevstiller, projet GitHub publié le 30 septembre, se place devant un appel de classification Jev répété. Il apprend des propres réponses de Jev et de leurs distributions de probabilité, puis répond localement à la plupart des requêtes. Sur Banking77, rejoué contre les réponses enregistrées de Jev avec les réglages par défaut, son modèle local a répondu à 61,7 % des messages tenus à l'écart avec 99,40 % d'accord avec Jev, pour une cible de 98 %. Il a maintenu la précision de Jev à 78,8 % contre 78,5 % sur les étiquettes du jeu de données. Une réponse locale prend environ 15 ms sur CPU, soit à peu près 20 fois plus vite que le p50 de Jev à 300 ms, selon le projet.

Ce que la semaine montre vraiment

Lus ensemble, ces lancements décrivent un marché qui se coupe en deux. Une moitié compresse : Phonon-2 à 164 Mo, Echo sous 5 000 dollars d'entraînement, Nimble à 9 000 000 000 de paramètres répondant en moins de 100 ms. L'autre moitié diffuse en flux. Strata fait passer 257 Go de poids par un PC de jeu à un chiffre de tokens par seconde pour maintenir en vie un modèle de classe 125 000 000 000 sans serveur.

La moitié compression a les meilleures preuves. Fermion publie sa méthodologie d'évaluation, nomme la licence dont elle hérite et indique quels chemins rapides ont été conditionnés à une équivalence au niveau du bruit. Fulcrum publie une mesure qu'elle a inventée, ce qui est plus faible, mais elle dit clairement qu'aucune mesure canonique n'existe. Strata publie son tableau de débit avec le matériel associé, ce que la plupart des projets d'inférence ne font pas.

Il manque une vérification indépendante. Aucun de ces chiffres n'a été reproduit par un tiers, et plusieurs viennent des organisations qui vendent le résultat. Le Open ASR Leaderboard est un benchmark public, ce qui aide Phonon-2. Mais les scores au Decision Index de Nimble-v4 sont ceux de Bespoke et l'Elo de style d'Echo est celui de Fulcrum. C'est normal pour une semaine de lancement et cela vaut quand même la peine d'être dit.

Ce qui a changé, ce n'est pas que les petits modèles soient devenus bons. C'est que l'outillage pour les exécuter, les évaluer et les distiller tient désormais sur un portable, et que ceux qui le construisent livrent chaque semaine. Le lot du 30 septembre, ce sont quatre sorties en un jour, par quatre équipes sans lien entre elles, aucune n'étant un grand laboratoire. Voilà l'histoire.

Commentaires 0

Sources

11
  1. 01Echo – A SOTA writing model for style imitationEN
  2. 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
  3. 03Strata: Run a 125B-parameter AI model on a normal gaming PCEN
  4. 04Ollama now supports Jev-style decision modelsEN
  5. 05Ollama now supports Jev-like decision models all locally in 0.35EN
  6. 06Nimble: Data, Model, Recipe for an Open Jev (From Bespoke Labs)EN
  7. 07Jevstiller: Distill a repeated Jev classification task into a local modelEN
  8. 08Coop: A small language model pretrained by volunteersEN
  9. 09PSSA: A non-transformer language model written from scratch in RustEN
  10. 10AI models keep posting screenshots showing sensitive data from tech companiesEN
  11. 11TalkScribe – On-device dictation and local LLM rewrite for macOSEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.