Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Les plugins de mémoire IA s'attaquent au mauvais problème, selon des développeurs

Un proxy qui compresse les sessions de Claude Code et de Codex a consommé 29 % de tokens d'entrée en moins que l'étape de compaction intégrée, affirment ses développeurs. Il a résolu 61 des 89 tâches de Terminal-Bench 2.1.

IA & modèlesExpliquéCamille RousseauPublié le: 3 octobre 20264 min de lectureSources 9
Les plugins de mémoire IA s'attaquent au mauvais problème, selon des développeurs

Gobstopper, un proxy de compaction pour Claude Code et Codex, a publié ses résultats de benchmark les 27 et 28 septembre. Avec le proxy, il a résolu 61 tâches sur 89, contre 60 sans lui, en consommant 84 300 000 tokens d'entrée contre 118 600 000.

Le site du projet fixe le seuil de déclenchement à 45 000 tokens plutôt qu'aux 128 000 par défaut, avec un seul essai par bras et GLM 5.3 Flash. La même page reconnaît que l'écart de deux tâches tient dans le bruit d'un essai unique. Elle indique aussi que 21 des 89 essais tail-0 ont pu tourner sur une version antérieure. Cette honnêteté est plus rare que la promesse d'accélération.

Ce genre d'outil repose sur une prémisse : les fenêtres de contexte ne sont pas le goulot d'étranglement. La mémoire l'est. Un groupe croissant de praticiens soutient que l'industrie a passé deux ans à résoudre la mauvaise moitié du problème. Voilà pourquoi une page de benchmark assortie d'un paragraphe de réserves se lit aujourd'hui avec plus d'intérêt qu'une annonce de lancement.

Ce que font réellement les plugins de mémoire

Kevin Liao, dans un texte du 3 octobre, décrit l'architecture standard d'un plugin de mémoire pour agent. Les conversations sont découpées en extraits, les extraits vont dans une base vectorielle, et à chaque prompt les cinq plus proches sont rattachés. Si l'agent semble perdu, on lui donne un outil de recherche pour creuser davantage.

Liao liste cinq défaillances de ce modèle. La recherche par similarité ne sait pas quel extrait est correct ni à jour. Les extraits perdent le contexte qui les entoure. Le passé est traité comme une vérité alors même que le code évolue. Les agents ne peuvent pas chercher ce qu'ils ignorent leur manquer. Et le stock de 10 000 embeddings n'est pas auditable. Sa conclusion est nette. Les gens notent les choses par écrit au lieu de revoir des réunions vieilles de trois ans, écrit-il, et les agents devraient fonctionner de la même façon.

La solution n'est PAS de donner à un agent un outil de recherche pour fouiller dans 10 000 000 de tokens de conversations passées.

« Tout l'écosystème des plugins de mémoire résout le mauvais problème », écrit-il. C'est une tribune, pas une mesure. Mais elle arrive juste à côté de preuves plus solides que la gestion du contexte est un problème de systèmes, pas de recherche d'information.

Le versant matériel du même débat

Un article de systématisation des connaissances, arXiv:260 930 854, signé Tejinder Singh de Dell Technologies, défend l'idée que le décodage à long contexte est limité par la bande passante mémoire plutôt que par l'arithmétique. Comme le résume jaehun.me le 3 octobre, l'article dérive un point de bascule où les octets de KV cache par étape dépassent ceux des poids du modèle. Ce seuil chute de façon hyperbolique à mesure que la taille de batch augmente.

Les chiffres sont concrets. Llama-3-70B en BF16 demande 140 GB de poids, plus que les 80 GB de HBM d'un H100. Son KV cache ajoute 42 GB pour une seule séquence de 128 000 tokens et 328 GB à un million de tokens, soit plus que ce que quatre H100 contiennent au total.

L'article note aussi que la même quantification en 2 bits donne un facteur 1,25x à batch 1 et 4,82x à batch 32. Le régime a changé, pas l'algorithme. La coupe de 29 % de Gobstopper et les courbes de bascule de l'article racontent la même histoire à des couches différentes de la pile.

Postgres et le coût d'une mémoire mal gérée

La sûreté mémoire est la version plus ancienne et plus littérale de ce débat. L'ingénieur ClickHouse Philip Dubé a écrit le 30 septembre sur l'introduction de C++ dans les extensions Postgres. Là, Postgres alloue via palloc et les arènes MemoryContext, et gère les échecs avec setjmp/longjmp. Les destructeurs C++ ne survivent pas à ce saut. Une exception non capturée peut forcer le postmaster à tout redémarrer au cas où la mémoire partagée aurait été corrompue.

La réponse de ClickHouse pour pg_clickhouse a été de retirer complètement le C++, en remplaçant clickhouse-cpp par une nouvelle bibliothèque C. pg_re2 garde le C++ dans un seul fichier d'enveloppe. pg_chdb a déplacé libchdb dans un exécutable auxiliaire séparé.

Le même schéma apparaît dans le décodage d'images. Le wpd de l'équipe Halide, un décodeur WebP en Rust avec SIMD écrit à la main, a été conçu en réaction à la CVE-2023-4863. La CISA a confirmé que cette faille avait été exploitée en conditions réelles, et elle touchait Chrome, Firefox, Signal et Microsoft Teams. L'équipe cite le chiffre de Chromium lui-même : environ 70 % de ses bugs de sécurité de haute gravité viennent de problèmes de sûreté mémoire.

Des sujets plus petits, même direction

Ailleurs, les sorties de la semaine étaient plus discrètes. Kagi a annoncé le 3 octobre qu'il arrête le développement d'Orion pour Linux et Windows et ouvre le code des deux. La bêta Linux ne reçoit plus de mises à jour Kagi après le 2 octobre 2026, et le lancement Windows prévu fin 2026 est annulé.

Un développeur a publié Warply, un client Cloudflare WARP non officiel à un bouton pour Windows 10 et 11, qui stocke sa clé WireGuard avec Windows DPAPI. Le blog Old New Thing de Microsoft a publié le 1er octobre un billet sur le hot-patching sous Windows sur Itanium. LiberNT, un fork de ReactOS visant ARM64 et Windows 11, était injoignable le 3 octobre parce que son défi de preuve de travail Anubis ne se chargeait pas.

Aucun de ces éléments ne tranche si les agents ont besoin de mémoire ou de documentation. Mais la charge de la preuve s'est déplacée. Quiconque livre aujourd'hui une couche de mémoire doit montrer qu'elle bat un fichier bien tenu, et les premiers benchmarks sérieux commencent seulement à arriver.

Commentaires 0

Sources

9
  1. 01Gobstopper: context compaction proxy for Claude Code and CodexEN
  2. 02Agents don't need memory, they need documentationEN
  3. 03The KV Cache Is the New Memory WallEN
  4. 04Memory safety for Postgres extensions in C/C++EN
  5. 05Memory-Safe WebP DecodingEN
  6. 06An Update on Orion for Linux and WindowsEN
  7. 07Warply: unofficial one-button Cloudflare WARP app for WindowsEN
  8. 08Windows on Itanium also provided for hot-patchingEN
  9. 09LiberNT: fork of ReactOS focused on ARM64 and Windows 11EN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.