跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

智能体记忆工具激增,研究者发现大模型不会主动识别结构

一篇10月1日在arXiv上修订的基准测试发现,记忆智能体在被提示如何组织记忆时,能够完成结构化回忆任务。现代大模型并不总能自己识别出这种结构。

人工智能与模型新闻林晓雯发布: 2026年10月5日6 分钟阅读资料来源 8
智能体记忆工具激增,研究者发现大模型不会主动识别结构

这篇论文名为StructMemEval,最后一次修订是在10月1日。Alina Shutova、Alexandra Olenina、Ivan Vinogradov和Anton Sinitsin于2月11日首次把它发布到arXiv。论文检验的是:智能体能否把长期记忆组织成人们日常使用的结构,比如交易流水、待办清单和树状目录。

结论范围很窄,但对厂商来说颇为尴尬。简单的检索增强型大模型在这些任务上表现吃力。记忆智能体能够稳定解决,但前提是有人告诉它们如何安排所存的内容。不加提示,当前模型并不总能识别出结构。

这对本季度购买智能体产品的人有直接影响。下面这些工具的宣传口径都是:记忆更好,回答就更好。这项基准测试表明,收益取决于脚手架,而不只取决于模型规模。它也暗示了演示与部署之间的差距。同一个智能体,可能显得井井有条,也可能显得健忘,差别只在于一句没人写下来的提示。

代码库、规范和剪枝层同时到来

Vectorize发布了Hindsight,这是一个开源记忆系统,公司称其目标是学习而非回忆。该代码库声称在LongMemEval(一个对话记忆基准)上取得了当前最佳结果。它表示弗吉尼亚理工Sanghani中心的研究人员和《华盛顿邮报》复现了这些数字。README指出,其他厂商在该对比中的分数是自行上报的。

另一个名为Agent Memory Repo的项目发布了一份规范,把智能体记忆存放在它自己的git仓库里,链接来自cognition.com。记忆就是文件和文件夹,像维基一样互相链接。作者称为Dreaming的周期性流程会添加新条目并合并重复项。该规范涵盖个人记忆、共享团队记忆,以及多个智能体向同一仓库推送的情况,这时git会标记出冲突的编辑。

两个项目都没有公布生产负载下的独立成本或延迟数据。

还有一位开发者发布了OntoPrune,这是一个中间件,在源代码到达模型之前对其进行裁剪。其README报告在模块化项目上输入token减少了60%。它还报告,在AMD Ryzen CPU上运行的本地70亿参数编程模型上,首个token时间快了6.7倍。在24次沙箱运行中,它报告单元测试通过率为100%。这些都是作者自己的测量结果,运行在三种软件原型上。

OntoPrune声称,由于只向模型暴露带类型的依赖契约,它能阻止100%的专有代码泄露。这一说法来自项目的README,而非第三方。

另一个开源工具Spill则从另一端解决同样的问题。它会拦截大于32 KiB的MCP工具响应,把它们存入本地DuckDB表,并交给智能体一个紧凑的描述符加SQL。该项目表示,32 KiB以下的载荷会原样通过。它表示查询以只读方式运行,外部访问被禁用,结果上限为500行。它支持Cursor、Codex和Claude Code。

上下文裁剪为何正在成为一个产品品类

共同点在于,无论上下文窗口多大,它都被当作一种预算,而不是免费资源。Spill的门槛是一个硬数字:32 KiB。OntoPrune的卖点是一个百分比:输入token大约减少60%。两者都把一项工程约束变成了可以交付的工具。

对买家来说,这意味着记忆层正在变成一项采购决策,而且格式互不兼容。Hindsight把自己定位为带有自家模型的系统。Agent Memory Repo把纯文件存在git里。Spill把数据保存在本地数据库文件~/.spill/spill.duckdb中。如何在它们之间迁移,公开资料里没有任何描述。

那篇基准论文还就测量方式提出了警告。它认为,多数长期记忆基准关注的是简单事实留存、多跳回忆和时间变化。简单的检索增强型大模型已经能处理这些。StructMemEval要测的是更难打分的东西:智能体是否为它所记住的内容选择了正确的形状。

这四个项目都没有公布在同一批任务上的正面对比。

底层的硬件正在变贵

在芯片层面,记忆同样是约束。The Next Platform在10月2日报道,美光截至9月3日的2026财年实现季度营收5423000万美元,同比增长4.8倍,净利润377亿。其DRAM业务增长4.4倍,达到3977000万。

这样的价格环境决定了软件团队能负担什么。The Next Platform的解读是,存储厂商有意不急于扩产,因为短缺能让价格维持高位。如果这一点成立,那么从上下文窗口里挤出token就不再是优化,而是一项开支条目。

Tech Funding News在10月2日报道,旧金山芯片初创公司Volantis在Lachy Groom和Abstract Ventures共同领投的A轮融资中筹集了8800万。它正在设计一层光子记忆。公司称该层将支持超过20万亿参数的模型,每个用户每秒最高1万token,首批集成推理引擎预计2027年推出。这些是目标,不是实测结果。

这家初创公司的论点是:片上SRAM有带宽但容量很小。高带宽内存有容量,但受带宽、成本和功耗限制。Volantis称其光学互连把记忆池化,让容量和带宽一起增长。它的目标是把链路做到每比特低于1皮焦耳。

作为对比,Tech Funding News指出,Lightmatter以44亿估值融资4亿,Ayar Labs以38亿估值融资5亿,两者都做光学互连。

仍未确定的事

本周的发布贯穿了两个假设。第一,智能体会持续运行足够久,从而需要持久记忆。Agent Memory Repo的规范在描述多个智能体写入同一存储时,就假定了这一点。第二,记忆本身是可信的,这正是CPython讨论相关的地方。

在Python Insider博客报道的Python语言峰会上,Hood Chatham介绍了在初始化后对解释器内存做快照,以跳过重复的启动工作。在Pyodide中,测试从快照运行一个hello world程序大约快了四倍,0.353秒对1.406秒。问题在于Python在启动时随机化的哈希盐,用来阻止拒绝服务攻击。一旦恢复快照,这种随机性就固定下来。

Chatham提出一个显式的初始化阶段,可以重新运行以重新引入随机性。会议没有记录任何决定。

这个类比并不完全贴切,但问题的形状是一样的。持久存在的记忆,也是能持久保存一个错误、一个过时的偏好或一个泄露值的记忆。Hindsight、Agent Memory Repo、Spill和OntoPrune都提供了存储和裁剪上下文的方法。它们都没有提供公开的方法,用来审计智能体选择保留了什么。

评论 0

资料来源

8
  1. 01Evaluating Memory Structure in LLM AgentsEN
  2. 02Hindsight: Agent Memory That LearnsEN
  3. 03Spec for Agent Memory RepoEN
  4. 04OntoPrune: Neuro-Symbolic Context Pruning MiddlewareEN
  5. 05Spill: Keep large MCP results out of contextEN
  6. 06Micron's Numbers Show Why HBM4 Memory Is Worth 15X Its Weight in GoldEN
  7. 07Volantis raises $88M to build photonic memory layer for next-gen AIEN
  8. 08Memory Snapshots for CPython (Python Language Summit 2026)EN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。