Anthropic 称 GLM-5.3 编写漏洞利用能力已接近 Mythos
Anthropic 发布报告称,智谱 AI 的 GLM-5.3 能自动编写漏洞利用,水平已接近自家尚未发布的 Claude Mythos。Tom's Hardware 于 10 月 3 日报道了此事。在 Anthropic 的 Exploitbench 测试中,GLM-5.3 在 410 次尝试里成功构造出可用的 Chrome 漏洞利用 50 次,Mythos 为 56 次。

在 Chrome 漏洞利用基准上,智谱 AI 的开源权重模型 GLM-5.3 与 Anthropic 尚未发布的 Mythos 只差 6 次成功。这一结果来自 Anthropic 发布的报告,Tom's Hardware 于 10 月 3 日进行了报道。另一项内部测试的差距是 2 个百分点:GLM-5.3 在“完整控制流劫持”上的成功率为 4%,Mythos 为 6%。同一指标上,Kimi K3 和 DeepSeek V4.1 Flash 均为 0%。
这个结论的意义不在排行榜,而在于谁能拿到这种能力。Mythos 是 Anthropic 认定过于危险、不对外公开发布的模型。要用它,得走 Project Glasswing:该项目于 4 月启动,向选定合作伙伴提供模型用于查找漏洞。GLM-5.3 的权重则是公开的。如果 Anthropic 的数字站得住,那么一个受控的前沿模型和一个可下载的模型之间的差距,已经小到值得争论。如今这场争论有了一个数字,这个数字是 6。
Anthropic 的报告还说,原版 GLM-5.3 很容易被引导绕过自身的安全防护。Tom's Hardware 报道了两种方法。一是欺骗性提示,让模型扮演对抗性自主智能体,成功率为 64%。二是预填充模型的思考 token 以强制其给出回答,成功率为 92%。报告还描述了第三种方法,即消融(abliteration)。这些结果均未经过独立复现。
基准究竟测了什么
Exploitbench 是一个沙箱环境,模型在其中尝试为 Google Chrome 开发漏洞利用。Anthropic 对每个模型各运行 410 次尝试。最受关注的对比是 Mythos 成功 56 次,GLM-5.3 成功 50 次。Anthropic 还称,GLM-5.3 能自主开发链式漏洞利用。它表示,更轻量的 Flash 版本针对已知漏洞构造链式利用,花费的 token 成本为 20.40 美元。按输入输出比例不同,这大约相当于 100 万到 3 亿个 token。
保留意见得说清楚。这些是厂商自己运行的基准,测试对象又是该厂商的竞争对手,而且 Anthropic 自己的说法此前就受到过质疑。Tom's Hardware 指出,Anthropic 一边呼吁对 AI 开发进行监管,一边在其 CEO 呼吁放慢前沿节奏几天后就发布了 Claude Opus 5.5 和 Claude Sonnet 5.5。Anthropic 引用了 AI 标准与创新中心 9 月底的一份报告,该报告称 GLM-5.3 能像 Mythos 一样全自动完成漏洞利用。
“我们今晚开始在 Rejetto HFS 上检测到针对 CVE-2026-61500 的利用尝试,”VulnCheck 安全研究员 Patrick Garrity 周四在 LinkedIn 上写道。
Anthropic 自己也有证据表明,Mythos 级别的漏洞发现会带来后果。The Register 于 10 月 3 日报道,Rejetto HTTP File Server 中一个严重的身份验证绕过漏洞被追踪为 CVE-2026-61500,由 Horizon3 研究员 Zach Hanley 借助 Mythos 发现。该漏洞目前正遭到攻击。Horizon3 于 7 月加入 Project Glasswing。Garrity 告诉 The Register,利用尝试来自一个位于中国的 IP 地址,目标主机在美国和日本。后来的攻击经由同一子网内的两个美国地址转发,看起来是代理。用户应升级到 HFS v3.2.1 或更高版本。
The Register 报道,截至周五,Garrity 的追踪器统计到通过 Mythos 和 Project Glasswing 发现的 CVE 共 286 个。直到周四,其中只有一个在野利用。这个比例支持受控访问:发现的漏洞很多,真正被攻击的很少。它也说明,不能把一周的利用数据当作安全保证。
为什么模型行为本身就难以测量
本周发表的另一项工作表明,幻觉与能力基准并不像分数显示的那样牢靠。Aleph Alpha 的研究博客介绍了一种训练方法,把问答变成三人博弈。一个上下文支持正确答案,另一个删掉了证据,模型必须在第一个上作答、在第二个上弃答。该公司称,在五个问答基准上,与经过指令训练的模型相比,上下文不足时的错误答案最多下降 35 个百分点。与标准训练相比,错误答案下降 18 到 20 个百分点,而 grounding 分数最多上升 0.38。
这套方法背后的要点是,基准分数只告诉你答案对了,没告诉你答案从哪来。模型可能读了检索到的文档,可能从预训练里背出了答案,也可能抓住了一个虚假线索。要求它给出引用也解决不了问题,因为模型是先作答再挑引文的。
检索研究里也有同样的问题。ScholarCatalyst 这个基准由 184 位通讯作者标注 207 篇近期计算机科学论文构成,要求模型找出塑造某个项目的先前工作。它只使用项目启动时已有的文献。智能体式检索并不比普通向量检索更好,Recall@20 为 0.42 对 0.48。基于 Claude Fable 5.1 构建的智能体达到 0.51,而它在训练中可能见过这些已完成的论文。
9 月 28 日修订的一篇 arXiv 论文 PTXBench 发现,没有任何被评估的模型能在内核优化上稳定追平前沿 GPU 库。它还发现,执行正确的指令并不能转化为有竞争力的速度。作者微调了 Qwen3.6-27B,发现泛化并不均衡。
开源权重一侧也在前进
Anthropic 的警告发出这一周,开源发布接连不断。Aleph Alpha 于 10 月 3 日发布 Kolibri,这是一个德语和英语的混合专家模型,总参数 780 亿,激活参数 30 亿。它支持 100 万 token 上下文,权重以 Apache 2.0 协议发布在 Hugging Face 上,面向公共管理、工业与航空航天。该公司称,它能与激活参数最多为其四倍的模型相当,例如 Nemotron 3 Super。
工具链早一天跟上。llama.cpp 项目表示,其服务器现在通过 /v1/systemone 端点支持决策模型,遵循 TypeSafe 的 Jev 引入的格式。现有客户端只需要换一个新的 base URL。列出的模型包括 42100 万参数的 Laya 和 270 亿参数的 OpenJev,后者采用非商业许可。另一项发布 Shield Small 是一个 11800 万参数的分类器,用于检测提示注入和越狱,可在 CPU 上运行。其模型卡称,在开发期间使用的对比集上,攻击召回率为 71.8%,误报率为 7.2%。
这些都不能说明 GLM-5.3 是否像 Anthropic 说的那样危险。公开的是 Anthropic 的数字、它描述的方法,以及不断涌现的强力开源模型。没有公开的是对防护绕过率的独立测试,以及智谱 AI 对该报告的任何回应。Anthropic 也未说明是否在发布前把结论告知智谱。
资料来源
8- 01Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
- 02Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
- 03Bounding Hallucinations: Merlin-Arthur Protocols for Mutual-Information Bounds in Language ModelsEN
- 04ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New ResearchEN
- 05PTXBench: Benchmarking and Adapting LLMs for GPU Kernel Optimization with Architecture-specific PTXEN
- 06Kolibri Has Landed: A Sovereign Open-Weight ModelEN
- 07New in llama.cpp: Decision ModelsEN
- 08Shield: A 118M model for detecting prompt injections and jailbreaksEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。