Les outils de mémoire pour agents se multiplient, les LLM ne repèrent pas toujours la structure seuls

L'article, StructMemEval, a été révisé pour la dernière fois le 1er octobre. Alina Shutova, Alexandra Olenina, Ivan Vinogradov et Anton Sinitsin l'ont publié pour la première fois sur arXiv le 11 février. Il vérifie si les agents savent organiser leur mémoire à long terme selon des structures que les gens utilisent au quotidien : registres de transactions, listes de tâches, arborescences.

Son résultat est étroit, mais gênant pour les fournisseurs. Les LLM simples à génération augmentée par récupération échouent sur ces tâches. Les agents de mémoire les résolvent de façon fiable, mais seulement si on leur dit comment ranger ce qu'ils stockent. Sans consigne, les modèles actuels ne reconnaissent pas toujours la structure.

Cela compte pour quiconque achète un produit d'agent ce trimestre. L'argument de vente commun aux outils ci-dessous est qu'une meilleure mémoire donne de meilleures réponses. L'évaluation suggère que le gain dépend d'un échafaudage, pas de la seule taille du modèle. Elle laisse aussi entrevoir l'écart entre une démo et un déploiement. Le même agent peut sembler organisé ou oublieux selon une consigne que personne n'a écrite.

Dépôts, spécifications et couche d'élagage arrivent ensemble

Vectorize publie Hindsight, un système de mémoire open source qu'il présente comme visant l'apprentissage plutôt que le rappel. Le dépôt revendique des résultats de pointe sur LongMemEval, une évaluation de la mémoire conversationnelle. Il indique que des chercheurs du Sanghani Center de Virginia Tech et du Washington Post ont reproduit les chiffres. Les scores des autres fournisseurs dans cette comparaison sont déclarés par eux-mêmes, précise le README.

Un autre projet, Agent Memory Repo, publie une spécification pour stocker la mémoire d'un agent dans son propre dépôt git, avec un lien depuis cognition.com. Les souvenirs sont des fichiers et des dossiers, reliés entre eux comme dans un wiki. Un processus périodique que les auteurs appellent Dreaming ajoute de nouvelles entrées et fusionne les doublons. La spécification couvre la mémoire personnelle, la mémoire partagée d'équipe et les essaims d'agents qui poussent vers le même dépôt, où git signale les modifications en conflit.

Aucun des deux projets ne publie de chiffres indépendants de coût ou de latence pour des charges de production.

Un développeur a aussi publié OntoPrune, un intergiciel qui élague le code source avant qu'il n'atteigne un modèle. Son README rapporte une réduction de 60 pour cent des tokens d'entrée sur des projets modulaires. Il rapporte aussi un temps jusqu'au premier token 6,7 fois plus rapide sur un modèle de code 7B local tournant sur un processeur AMD Ryzen. Sur 24 exécutions en bac à sable, il rapporte 100 pour cent de réussite aux tests unitaires. Ce sont les mesures de l'auteur, prises sur trois archétypes de logiciels.

OntoPrune affirme empêcher 100 pour cent des fuites de code propriétaire en n'exposant au modèle que des contrats de dépendance typés. L'affirmation vient du README du projet, pas d'un tiers.

Spill, un autre outil open source, attaque le même problème par l'autre bout. Il intercepte les réponses d'outils MCP dépassant 32 KiB. Il les stocke dans une table DuckDB locale et remet à l'agent un descripteur compact accompagné de SQL. Le projet indique que les charges utiles sous 32 KiB passent sans modification. Il indique que les requêtes s'exécutent en lecture seule, accès externe désactivé, et que les résultats sont plafonnés à 500 lignes. Il prend en charge Cursor, Codex et Claude Code.

Pourquoi l'élagage du contexte devient une catégorie de produit

Le fil commun, c'est que les fenêtres de contexte, quelle que soit leur taille, sont traitées comme un budget et non comme une ressource gratuite. Le seuil de Spill est un nombre net : 32 KiB. Le chiffre phare d'OntoPrune est un pourcentage : environ 60 pour cent de tokens d'entrée en moins. Les deux transforment une contrainte d'ingénierie en outil commercialisable.

Pour les acheteurs, cela signifie que la couche mémoire devient une décision d'achat avec plusieurs formats incompatibles. Hindsight se vend comme un système doté de ses propres modèles. Agent Memory Repo stocke de simples fichiers dans git. Spill garde les données dans un fichier de base local à ~/.spill/spill.duckdb. Le passage de l'un à l'autre n'est décrit nulle part publiquement.

L'article d'évaluation ajoute une mise en garde sur la mesure. Il soutient que la plupart des évaluations de mémoire à long terme portent sur la simple rétention de faits, le rappel à plusieurs sauts et les changements dans le temps. Les LLM simples à génération augmentée par récupération y arrivent déjà. StructMemEval a été conçu pour tester quelque chose de plus difficile à noter : si l'agent a choisi la bonne forme pour ce dont il se souvenait.

Aucun des quatre projets n'a publié de comparaison directe sur les mêmes tâches.

Le matériel en dessous coûte de plus en plus cher

La mémoire est aussi la contrainte au niveau du silicium. The Next Platform a rapporté le 2 octobre que l'exercice 2026 de Micron, clos le 3 septembre, avait dégagé un chiffre d'affaires trimestriel de 54 230 000 000 de dollars, en hausse de 4,8 fois sur un an, pour un résultat net de 37 700 000 000 de dollars. Son activité DRAM a progressé de 4,4 fois pour atteindre 39 770 000 000 de dollars.

Cet environnement de prix détermine ce que les équipes logicielles peuvent se permettre. Selon The Next Platform, les fabricants de mémoire ne cherchent délibérément pas à accélérer l'ajout de capacité, car les pénuries maintiennent les prix hauts. Si cela se vérifie, réduire les tokens d'une fenêtre de contexte cesse d'être une optimisation pour devenir une ligne budgétaire.

Volantis, une jeune entreprise de puces de San Francisco, a levé 88 000 000 de dollars en série A, menée conjointement par Lachy Groom et Abstract Ventures, rapporte Tech Funding News le 2 octobre. Elle conçoit une couche de mémoire photonique. Elle affirme que cette couche prendra en charge des modèles de plus de 20 000 000 000 000 de paramètres à jusqu'à 10 000 tokens par seconde et par utilisateur, les premiers moteurs d'inférence intégrés étant attendus en 2027. Ce sont des objectifs, pas des résultats mesurés.

L'argument de la jeune entreprise est que la SRAM sur puce offre de la bande passante mais peu de capacité. La mémoire à haut débit a de la capacité mais reste limitée par la bande passante, le coût et la consommation. Volantis affirme que sa matrice optique mutualise la mémoire pour que capacité et bande passante croissent ensemble. Elle vise des liaisons sous un picojoule par bit.

Pour comparaison, Tech Funding News note que Lightmatter a levé 400 000 000 de dollars sur une valorisation de 4 400 000 000 de dollars. Ayar Labs a levé 500 000 000 de dollars sur 3 800 000 000 de dollars, les deux pour des travaux d'interconnexion optique.

Ce qui reste en suspens

Deux hypothèses traversent les sorties de la semaine. La première est que les agents tourneront assez longtemps pour avoir besoin d'une mémoire persistante. La spécification d'Agent Memory Repo le suppose lorsqu'elle décrit des essaims écrivant dans un même stockage. La seconde est que cette mémoire peut être digne de confiance, et c'est là que la discussion autour de CPython devient pertinente.

Au Python Language Summit, rapporté par le blog Python Insider, Hood Chatham a décrit la prise d'un instantané de la mémoire d'un interpréteur après initialisation, pour éviter de refaire le travail de démarrage à chaque fois. Dans Pyodide, les tests ont fait tourner un programme hello-world environ quatre fois plus vite depuis un instantané, 0,353 seconde contre 1,406 seconde. Le piège, c'est le sel de hachage que Python randomise au démarrage pour bloquer les attaques par déni de service. Restaurez un instantané et cette part d'aléatoire se fige.

Chatham a proposé une phase d'initialisation explicite que l'on pourrait relancer pour réintroduire l'aléatoire. Aucune décision n'est consignée.

Le parallèle n'est pas exact, mais la forme du problème est la même. Une mémoire qui persiste est une mémoire qui peut faire persister une erreur, une préférence périmée ou une valeur divulguée. Hindsight, Agent Memory Repo, Spill et OntoPrune livrent tous des moyens de stocker et d'élaguer le contexte. Aucun ne livre de méthode publiée pour auditer ce qu'un agent a choisi de garder.