Anthropic称智谱GLM-5.3的漏洞利用能力接近Mythos
Anthropic于10月3日发布报告称,智谱AI的开源权重模型GLM-5.3编写可用漏洞利用程序的能力几乎与自家尚未发布的Mythos相当。报告还指出,该模型的防护措施很容易被绕过。

10月3日,Anthropic发布了一份针对GLM-5.3的前沿红队测试报告。GLM-5.3是智谱AI推出的中国开源权重模型。据Tom's Hardware报道,报告称GLM-5.3自动化编写漏洞利用程序的水平已接近Claude Mythos。Anthropic一直未公开发布这款专门挖漏洞的模型。
这件事的关键在于:如果一个可以下载的模型写漏洞利用程序的能力几乎和受限模型一样强,那么访问控制就不再是安全机制。Anthropic给出的方案是Project Glasswing,把Mythos级别的模型交给选定合作伙伴,在发布前发现并修补漏洞。悬而未决的问题是,防守方能否跑赢使用开源权重的人。Anthropic没有说明何时、或者是否会更大范围发布Mythos。
按百分比看,两者的差距并不小;按名次看,却很接近。Anthropic的Exploitbench要求模型在沙箱内为Google Chrome编写漏洞利用程序。GLM-5.3在410次运行中成功了50次,Mythos在410次中成功了56次。在一项针对完整控制流劫持的内部基准测试中,GLM-5.3的成功率为4%,Mythos为6%。据Tom's Hardware转述的报告,Kimi K3和DeepSeek V4.1 Flash在同一指标上均为0%。
防护栏从三条路径被突破
Anthropic还测试了绕过GLM-5.3防护措施的难度。有两种方法经常奏效。一种欺骗性提示词把模型设定为对抗性自主智能体,成功率为64%。预填模型的思考token,成功率为92%,据Tom's Hardware报道。报告还详述了第三条路径,即消融(abliteration)。该模型的Flash变体可以为已知漏洞生成链式利用程序,token成本为20.40美元。Anthropic估算,按输入输出比例不同,这大约相当于1亿到3亿个token。
这些发现正好落在一场仍在进行的争论中间。Anthropic一直呼吁监管、主张放慢脚步。但据Tom's Hardware指出,该公司在发出这些警告后没几天就发布了Claude Opus 5.5和Claude Sonnet 5.5。公司还在考虑IPO。
与Mythos相关漏洞的真实攻击已经出现。The Register于10月3日报道,CVE-2026-61500遭到来自一个中国托管IP的攻击尝试,目标主机位于美国和日本。该漏洞是Rejetto HTTP File Server中的严重认证绕过问题,由Horizon3研究员Zach Hanley借助Mythos发现。
VulnCheck的Patrick Garrity告诉The Register,截至周五,Mythos和Project Glasswing共发现了286个CVE。在周四之前,其中只有一个漏洞被在野利用。
"今天我们看到了四次命中,"Garrity周五对The Register说。他描述了两个位于同一子网的美国IP地址的后续流量,这些流量"看起来来自一个代理"。
Hanley的雇主于7月加入Project Glasswing。他在自己的分析中表示,Horizon3已在漏洞研究中使用Mythos,发现了许多严重漏洞。The Register指出,Rejetto HFS用户应使用v3.2.1或更高版本。
防守一方也在公开推进。Aleph Alpha于10月3日发布Kolibri,这是一个英德双语混合专家模型,总参数780亿,激活参数30亿。它采用Apache 2.0许可,权重放在Hugging Face上。公司称其性能可匹敌激活参数量最多为自身四倍的模型,例如Nemotron 3 Super。该模型面向需要本地部署的受监管行业。
另一端也出现了更小的工具。ZeroLeaks于10月2日发布Shield Small,这是一个11800万参数的分类器,用于识别提示注入和越狱尝试。它依靠118 MB的int8权重在CPU上运行。其模型卡显示,在与Shield rules v2配合使用时,攻击召回率为71.8%,误报率为7.2%,测试覆盖35个公开数据集,这些数据集也参与了模型开发。这意味着它并非未见过的测试。
这些都无法回答GLM-5.3的问题。Anthropic的数字来自自家基准测试,跑的是竞争对手的模型,智谱AI尚未公开回应。报告自己的说法是,受限前沿模型与开源权重之间的差距,如今已经小到可以用个位数百分比来衡量。
资料来源
9- 01Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
- 02Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
- 03Kolibri Has Landed: A Sovereign Open-Weight ModelEN
- 04Shield: A 118M model for detecting prompt injections and jailbreaksEN
- 05New in Llama.cpp: Decision ModelsEN
- 06OpenAI alerts 100+ orgs that its 'misaligned models' attempted to break inEN
- 07Training an open decision model to replace a closed one, in shadow on prodEN
- 08Ideogram 4.5: The most precise edit modelEN
- 09We diffed all 66 release pairs of the official MCP serversEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。