Les outils d'IA locaux dominent la semaine : Jevstiller, TalkScribe et le repli cloud d'Anthropic

Jevstiller est un proxy open source placé devant Jev de TypeSafe. Son dépôt GitHub et un article de The Register datent tous deux du 30 septembre.

Les deux décrivent le même mécanisme. Chaque demande part d'abord vers Jev, et les réponses entraînent un petit modèle local. Une fois les échantillons suffisants, les demandes habituelles sont traitées sur la machine de l'utilisateur. Jev est bon marché, mais pas gratuit. The Register fixe le prix de Jev à 42 dollars par milliard de tokens d'entrée, soit 35 000 000 000 de tokens, et sa latence à environ 300 ms. Le README de Jevstiller indique qu'une réponse locale prend environ 15 ms sur processeur, soit à peu près 20 fois plus vite. La documentation du projet le décrit comme un cache : « Une demande n'est traitée en local que si chacune de ses questions peut l'être ; sinon, la demande entière part vers Jev avec la clé de l'appelant. »

Les chiffres derrière la promesse sont plus étroits que le titre. Banking77 est un ensemble de 77 intentions de support client rejouées contre des réponses Jev enregistrées. Sur cet ensemble, les réglages par défaut ont répondu à 61,7 % des messages de validation avec 99,40 % d'accord avec Jev, pour une cible annoncée de 98 %. Le README rapporte aussi une précision de 78,8 % pour le modèle local contre 78,5 % pour Jev sur les étiquettes du jeu de données. Une exécution en direct le 25 septembre a donné 70,7 % avec 99,45 % d'accord, via un réglage que le README dit ne plus être celui par défaut.

Les modèles locaux passent sur l'ordinateur portable

La même semaine a apporté une série d'outils bâtis sur une seule hypothèse : l'inférence appartient à la machine devant laquelle on travaille. TalkScribe, une application de dictée pour macOS publiée le 30 septembre, fait tourner la reconnaissance vocale et une passe de réécriture sur le Neural Engine d'Apple, sans transfert vers le cloud. Elle vend une licence à vie pour 14 dollars et embarque un modèle Qwen3 1.7B, soit 1 700 000 000 de paramètres, pour le polissage. Son site affirme que les gens tapent à environ 40 mots par minute et parlent à 130 à 160. C'est l'argument en une ligne.

Ollama a ajouté un point d'accès de modèle de décision en version 0.35, selon sa page de bibliothèque. Le point d'accès sert Nimble, un modèle de 9B, soit 9 000 000 000 de paramètres, de Bespoke Labs affiné à partir de Qwen3.5-9B. La page indique que Nimble répond en moins de 100 ms sur un MacBook Pro équipé d'une M5 Max et accepte jusqu'à 64 questions par requête. Le point d'accès suit l'API Jev de TypeSafe, si bien qu'une même forme de requête fonctionne contre un Jev hébergé ou un fichier local.

« Nous publions en open source AA-AgentPerf-Local, qui rejoue de vraies trajectoires d'agents sur du matériel portable et de station de travail pour tester les performances d'inférence », a écrit Artificial Analysis le 30 septembre.

Ce banc d'essai donne une règle de mesure à la poussée locale. Artificial Analysis indique que sa charge de travail par défaut compte 8 tâches agentiques enregistrées, sur 168 tours de modèle, avec un contexte qui monte à environ 56 000 tokens. Il a publié des premiers résultats pour NVIDIA DGX Spark à 128 GB, AMD Ryzen AI Halo à 128 GB, un MacBook Pro M5 Pro à 64 GB et une NVIDIA GeForce RTX 5090 à 32 GB. Les modèles testés sont Qwen3.5-9B, Qwen3.8-27B, soit 27 000 000 000 de paramètres, Qwen3.6-35B-A3B, soit 35 000 000 000 de paramètres, et Ling 3.0 Flash en quantification 4 bits.

Deux autres projets complètent le tableau. OpenResearch, d'alphaXiv, est un espace de travail local-first pour agents de recherche qui garde les expériences dans une base SQL locale. Il dit ne pas collecter le code ni les traces d'agents, même si ses versions publiées envoient des statistiques désactivables liées à un identifiant d'installation aléatoire. LocalThings, une intégration Home Assistant, dialogue avec les appareils Samsung sur le réseau local via CoAP sur DTLS et la spécification OCF. Son README indique qu'il ne contacte jamais les serveurs de Samsung après l'installation.

Le contre-exemple : Anthropic retire le mode local

Tous les éditeurs ne vont pas dans cette direction. Le centre d'aide d'Anthropic indique que le 6 octobre 2026, les nouvelles tâches Cowork sur les offres Pro, Max et Ultra ont commencé à tourner dans le cloud, et que l'option « Uniquement sur votre ordinateur » des réglages a été supprimée. Les utilisateurs encore en local ont été basculés vers le cloud à la prochaine ouverture de l'application de bureau, sans possibilité de revenir en arrière. Les tâches lancées avant cette date restent sur la machine.

Mettez les deux moitiés côte à côte : la semaine se lit comme une fracture, pas comme une tendance. Les outils cités sont petits, mono-usage et pour la plupart gratuits ou bon marché : une licence à 14 dollars, une image de conteneur, un dépôt GitHub. Le changement d'Anthropic touche des offres payantes et déplace le travail dans l'autre sens. Le camp qui l'emporte dépend des charges de travail, et de la tenue des chiffres d'accord hors d'un jeu de 77 classes d'intentions. Les 3 000 000 000 de paramètres de Qwen3.6-35B-A3B en 4 bits et les 9 000 000 000 de Nimble se mesurent sur les mêmes machines.