跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

Anthropic 称 GLM-5.3 编写漏洞利用能力已接近 Mythos

Anthropic 发布报告称,智谱 AI 的 GLM-5.3 能自动编写漏洞利用,水平已接近自家尚未发布的 Claude Mythos。Tom's Hardware 于 10 月 3 日报道了此事。在 Anthropic 的 Exploitbench 测试中,GLM-5.3 在 410 次尝试里成功构造出可用的 Chrome 漏洞利用 50 次,Mythos 为 56 次。

人工智能与模型解释林晓雯发布: 2026年10月3日6 分钟阅读资料来源 8
Anthropic 称 GLM-5.3 编写漏洞利用能力已接近 Mythos

在 Chrome 漏洞利用基准上,智谱 AI 的开源权重模型 GLM-5.3 与 Anthropic 尚未发布的 Mythos 只差 6 次成功。这一结果来自 Anthropic 发布的报告,Tom's Hardware 于 10 月 3 日进行了报道。另一项内部测试的差距是 2 个百分点:GLM-5.3 在“完整控制流劫持”上的成功率为 4%,Mythos 为 6%。同一指标上,Kimi K3 和 DeepSeek V4.1 Flash 均为 0%。

这个结论的意义不在排行榜,而在于谁能拿到这种能力。Mythos 是 Anthropic 认定过于危险、不对外公开发布的模型。要用它,得走 Project Glasswing:该项目于 4 月启动,向选定合作伙伴提供模型用于查找漏洞。GLM-5.3 的权重则是公开的。如果 Anthropic 的数字站得住,那么一个受控的前沿模型和一个可下载的模型之间的差距,已经小到值得争论。如今这场争论有了一个数字,这个数字是 6。

Anthropic 的报告还说,原版 GLM-5.3 很容易被引导绕过自身的安全防护。Tom's Hardware 报道了两种方法。一是欺骗性提示,让模型扮演对抗性自主智能体,成功率为 64%。二是预填充模型的思考 token 以强制其给出回答,成功率为 92%。报告还描述了第三种方法,即消融(abliteration)。这些结果均未经过独立复现。

基准究竟测了什么

Exploitbench 是一个沙箱环境,模型在其中尝试为 Google Chrome 开发漏洞利用。Anthropic 对每个模型各运行 410 次尝试。最受关注的对比是 Mythos 成功 56 次,GLM-5.3 成功 50 次。Anthropic 还称,GLM-5.3 能自主开发链式漏洞利用。它表示,更轻量的 Flash 版本针对已知漏洞构造链式利用,花费的 token 成本为 20.40 美元。按输入输出比例不同,这大约相当于 100 万到 3 亿个 token。

保留意见得说清楚。这些是厂商自己运行的基准,测试对象又是该厂商的竞争对手,而且 Anthropic 自己的说法此前就受到过质疑。Tom's Hardware 指出,Anthropic 一边呼吁对 AI 开发进行监管,一边在其 CEO 呼吁放慢前沿节奏几天后就发布了 Claude Opus 5.5 和 Claude Sonnet 5.5。Anthropic 引用了 AI 标准与创新中心 9 月底的一份报告,该报告称 GLM-5.3 能像 Mythos 一样全自动完成漏洞利用。

“我们今晚开始在 Rejetto HFS 上检测到针对 CVE-2026-61500 的利用尝试,”VulnCheck 安全研究员 Patrick Garrity 周四在 LinkedIn 上写道。

Anthropic 自己也有证据表明,Mythos 级别的漏洞发现会带来后果。The Register 于 10 月 3 日报道,Rejetto HTTP File Server 中一个严重的身份验证绕过漏洞被追踪为 CVE-2026-61500,由 Horizon3 研究员 Zach Hanley 借助 Mythos 发现。该漏洞目前正遭到攻击。Horizon3 于 7 月加入 Project Glasswing。Garrity 告诉 The Register,利用尝试来自一个位于中国的 IP 地址,目标主机在美国和日本。后来的攻击经由同一子网内的两个美国地址转发,看起来是代理。用户应升级到 HFS v3.2.1 或更高版本。

The Register 报道,截至周五,Garrity 的追踪器统计到通过 Mythos 和 Project Glasswing 发现的 CVE 共 286 个。直到周四,其中只有一个在野利用。这个比例支持受控访问:发现的漏洞很多,真正被攻击的很少。它也说明,不能把一周的利用数据当作安全保证。

为什么模型行为本身就难以测量

本周发表的另一项工作表明,幻觉与能力基准并不像分数显示的那样牢靠。Aleph Alpha 的研究博客介绍了一种训练方法,把问答变成三人博弈。一个上下文支持正确答案,另一个删掉了证据,模型必须在第一个上作答、在第二个上弃答。该公司称,在五个问答基准上,与经过指令训练的模型相比,上下文不足时的错误答案最多下降 35 个百分点。与标准训练相比,错误答案下降 18 到 20 个百分点,而 grounding 分数最多上升 0.38。

这套方法背后的要点是,基准分数只告诉你答案对了,没告诉你答案从哪来。模型可能读了检索到的文档,可能从预训练里背出了答案,也可能抓住了一个虚假线索。要求它给出引用也解决不了问题,因为模型是先作答再挑引文的。

检索研究里也有同样的问题。ScholarCatalyst 这个基准由 184 位通讯作者标注 207 篇近期计算机科学论文构成,要求模型找出塑造某个项目的先前工作。它只使用项目启动时已有的文献。智能体式检索并不比普通向量检索更好,Recall@20 为 0.42 对 0.48。基于 Claude Fable 5.1 构建的智能体达到 0.51,而它在训练中可能见过这些已完成的论文。

9 月 28 日修订的一篇 arXiv 论文 PTXBench 发现,没有任何被评估的模型能在内核优化上稳定追平前沿 GPU 库。它还发现,执行正确的指令并不能转化为有竞争力的速度。作者微调了 Qwen3.6-27B,发现泛化并不均衡。

开源权重一侧也在前进

Anthropic 的警告发出这一周,开源发布接连不断。Aleph Alpha 于 10 月 3 日发布 Kolibri,这是一个德语和英语的混合专家模型,总参数 780 亿,激活参数 30 亿。它支持 100 万 token 上下文,权重以 Apache 2.0 协议发布在 Hugging Face 上,面向公共管理、工业与航空航天。该公司称,它能与激活参数最多为其四倍的模型相当,例如 Nemotron 3 Super。

工具链早一天跟上。llama.cpp 项目表示,其服务器现在通过 /v1/systemone 端点支持决策模型,遵循 TypeSafe 的 Jev 引入的格式。现有客户端只需要换一个新的 base URL。列出的模型包括 42100 万参数的 Laya 和 270 亿参数的 OpenJev,后者采用非商业许可。另一项发布 Shield Small 是一个 11800 万参数的分类器,用于检测提示注入和越狱,可在 CPU 上运行。其模型卡称,在开发期间使用的对比集上,攻击召回率为 71.8%,误报率为 7.2%。

这些都不能说明 GLM-5.3 是否像 Anthropic 说的那样危险。公开的是 Anthropic 的数字、它描述的方法,以及不断涌现的强力开源模型。没有公开的是对防护绕过率的独立测试,以及智谱 AI 对该报告的任何回应。Anthropic 也未说明是否在发布前把结论告知智谱。

评论 0

资料来源

8
  1. 01Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  2. 02Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
  3. 03Bounding Hallucinations: Merlin-Arthur Protocols for Mutual-Information Bounds in Language ModelsEN
  4. 04ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New ResearchEN
  5. 05PTXBench: Benchmarking and Adapting LLMs for GPU Kernel Optimization with Architecture-specific PTXEN
  6. 06Kolibri Has Landed: A Sovereign Open-Weight ModelEN
  7. 07New in llama.cpp: Decision ModelsEN
  8. 08Shield: A 118M model for detecting prompt injections and jailbreaksEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。