智能体记忆工具激增,研究者发现大模型不会主动识别结构
一篇10月1日在arXiv上修订的基准测试发现,记忆智能体在被提示如何组织记忆时,能够完成结构化回忆任务。现代大模型并不总能自己识别出这种结构。

这篇论文名为StructMemEval,最后一次修订是在10月1日。Alina Shutova、Alexandra Olenina、Ivan Vinogradov和Anton Sinitsin于2月11日首次把它发布到arXiv。论文检验的是:智能体能否把长期记忆组织成人们日常使用的结构,比如交易流水、待办清单和树状目录。
结论范围很窄,但对厂商来说颇为尴尬。简单的检索增强型大模型在这些任务上表现吃力。记忆智能体能够稳定解决,但前提是有人告诉它们如何安排所存的内容。不加提示,当前模型并不总能识别出结构。
这对本季度购买智能体产品的人有直接影响。下面这些工具的宣传口径都是:记忆更好,回答就更好。这项基准测试表明,收益取决于脚手架,而不只取决于模型规模。它也暗示了演示与部署之间的差距。同一个智能体,可能显得井井有条,也可能显得健忘,差别只在于一句没人写下来的提示。
代码库、规范和剪枝层同时到来
Vectorize发布了Hindsight,这是一个开源记忆系统,公司称其目标是学习而非回忆。该代码库声称在LongMemEval(一个对话记忆基准)上取得了当前最佳结果。它表示弗吉尼亚理工Sanghani中心的研究人员和《华盛顿邮报》复现了这些数字。README指出,其他厂商在该对比中的分数是自行上报的。
另一个名为Agent Memory Repo的项目发布了一份规范,把智能体记忆存放在它自己的git仓库里,链接来自cognition.com。记忆就是文件和文件夹,像维基一样互相链接。作者称为Dreaming的周期性流程会添加新条目并合并重复项。该规范涵盖个人记忆、共享团队记忆,以及多个智能体向同一仓库推送的情况,这时git会标记出冲突的编辑。
两个项目都没有公布生产负载下的独立成本或延迟数据。
还有一位开发者发布了OntoPrune,这是一个中间件,在源代码到达模型之前对其进行裁剪。其README报告在模块化项目上输入token减少了60%。它还报告,在AMD Ryzen CPU上运行的本地70亿参数编程模型上,首个token时间快了6.7倍。在24次沙箱运行中,它报告单元测试通过率为100%。这些都是作者自己的测量结果,运行在三种软件原型上。
OntoPrune声称,由于只向模型暴露带类型的依赖契约,它能阻止100%的专有代码泄露。这一说法来自项目的README,而非第三方。
另一个开源工具Spill则从另一端解决同样的问题。它会拦截大于32 KiB的MCP工具响应,把它们存入本地DuckDB表,并交给智能体一个紧凑的描述符加SQL。该项目表示,32 KiB以下的载荷会原样通过。它表示查询以只读方式运行,外部访问被禁用,结果上限为500行。它支持Cursor、Codex和Claude Code。
上下文裁剪为何正在成为一个产品品类
共同点在于,无论上下文窗口多大,它都被当作一种预算,而不是免费资源。Spill的门槛是一个硬数字:32 KiB。OntoPrune的卖点是一个百分比:输入token大约减少60%。两者都把一项工程约束变成了可以交付的工具。
对买家来说,这意味着记忆层正在变成一项采购决策,而且格式互不兼容。Hindsight把自己定位为带有自家模型的系统。Agent Memory Repo把纯文件存在git里。Spill把数据保存在本地数据库文件~/.spill/spill.duckdb中。如何在它们之间迁移,公开资料里没有任何描述。
那篇基准论文还就测量方式提出了警告。它认为,多数长期记忆基准关注的是简单事实留存、多跳回忆和时间变化。简单的检索增强型大模型已经能处理这些。StructMemEval要测的是更难打分的东西:智能体是否为它所记住的内容选择了正确的形状。
这四个项目都没有公布在同一批任务上的正面对比。
底层的硬件正在变贵
在芯片层面,记忆同样是约束。The Next Platform在10月2日报道,美光截至9月3日的2026财年实现季度营收5423000万美元,同比增长4.8倍,净利润377亿。其DRAM业务增长4.4倍,达到3977000万。
这样的价格环境决定了软件团队能负担什么。The Next Platform的解读是,存储厂商有意不急于扩产,因为短缺能让价格维持高位。如果这一点成立,那么从上下文窗口里挤出token就不再是优化,而是一项开支条目。
Tech Funding News在10月2日报道,旧金山芯片初创公司Volantis在Lachy Groom和Abstract Ventures共同领投的A轮融资中筹集了8800万。它正在设计一层光子记忆。公司称该层将支持超过20万亿参数的模型,每个用户每秒最高1万token,首批集成推理引擎预计2027年推出。这些是目标,不是实测结果。
这家初创公司的论点是:片上SRAM有带宽但容量很小。高带宽内存有容量,但受带宽、成本和功耗限制。Volantis称其光学互连把记忆池化,让容量和带宽一起增长。它的目标是把链路做到每比特低于1皮焦耳。
作为对比,Tech Funding News指出,Lightmatter以44亿估值融资4亿,Ayar Labs以38亿估值融资5亿,两者都做光学互连。
仍未确定的事
本周的发布贯穿了两个假设。第一,智能体会持续运行足够久,从而需要持久记忆。Agent Memory Repo的规范在描述多个智能体写入同一存储时,就假定了这一点。第二,记忆本身是可信的,这正是CPython讨论相关的地方。
在Python Insider博客报道的Python语言峰会上,Hood Chatham介绍了在初始化后对解释器内存做快照,以跳过重复的启动工作。在Pyodide中,测试从快照运行一个hello world程序大约快了四倍,0.353秒对1.406秒。问题在于Python在启动时随机化的哈希盐,用来阻止拒绝服务攻击。一旦恢复快照,这种随机性就固定下来。
Chatham提出一个显式的初始化阶段,可以重新运行以重新引入随机性。会议没有记录任何决定。
这个类比并不完全贴切,但问题的形状是一样的。持久存在的记忆,也是能持久保存一个错误、一个过时的偏好或一个泄露值的记忆。Hindsight、Agent Memory Repo、Spill和OntoPrune都提供了存储和裁剪上下文的方法。它们都没有提供公开的方法,用来审计智能体选择保留了什么。
资料来源
8- 01Evaluating Memory Structure in LLM AgentsEN
- 02Hindsight: Agent Memory That LearnsEN
- 03Spec for Agent Memory RepoEN
- 04OntoPrune: Neuro-Symbolic Context Pruning MiddlewareEN
- 05Spill: Keep large MCP results out of contextEN
- 06Micron's Numbers Show Why HBM4 Memory Is Worth 15X Its Weight in GoldEN
- 07Volantis raises $88M to build photonic memory layer for next-gen AIEN
- 08Memory Snapshots for CPython (Python Language Summit 2026)EN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。