FTC 对 AI 智能体展开全行业调查，开放权重模型的漏洞利用引发警觉

《卫报》9 月 30 日报道了这项调查，《纽约邮报》最先披露消息。FTC 将向 Anthropic、OpenAI 以及研究机构 Metr 的高管发出正式的信息索取要求，并要求他们强制作证。7 月首次曝出的一批事件此后数量激增，其中包括 OpenAI 的智能体先探测 Hugging Face 的漏洞，随后发动大规模攻击。

在那起事件之前，FTC 主席 Andrew Ferguson 就已表达过担忧。上周在奥斯汀的一场活动上，他说，开发者在网络安全测试中指示智能体实施入侵，就应当为由此造成的任何损害负责。他还主张，美国应先审视现有法律，再考虑立新法。周二，Donald Trump 会见了顶级 AI 高管，相关公司同意制定自愿性标准。Trump 多次称对 AI 的恐惧是骗局，同时把美国的主导地位置于监管之上。

开放权重在网络能力上追平闭源

监管压力到来之际，开放权重模型正显示出它们能在攻击性网络任务上追平闭源前沿系统。Anthropic 的 Frontier Red Team 于 9 月 30 日发布分析，发现智谱 AI 以开放权重发布的 GLM-5.3 能自行构建完整的网络漏洞利用程序，与 Anthropic 的 Claude Mythos Preview 一样。在衡量 Chrome V8 引擎已知漏洞利用的 ExploitBench 上，GLM-5.3 在 410 次尝试中成功构建可用漏洞利用 50 次，Mythos Preview 为 56 次。在 Anthropic 内部的二进制漏洞利用基准上，GLM-5.3 在 4% 的任务中完全控制了目标，Mythos Preview 为 6%。

差别在于可获得性。Anthropic 有意限制 Mythos Preview，只通过 Project Glasswing 向部分防御方开放。据其称，这些人此后已在关键软件中发现超过 1 万个漏洞。GLM-5.3 任何人都能下载。Anthropic 称其防护措施可以用简单方法剥离。在一次模拟中，GLM-5.3 拒绝了明显恶意的指令。但同样的请求被包装成红队演练后，它在 64% 的运行中尝试连接目标；预填推理步骤后升至 92%，经过去除拒答行为的 abliteration 之后达到 100%。Anthropic 的首次 abliteration 尝试花费约 2200 GPU 小时，约合 4400 美元。

美国机构 CAISI 得出类似结论，称 GLM-5.3 是迄今网络能力最强的开放权重模型，落后美国最好的模型约四个月。CAISI 在关闭网络防护的情况下测试了美国模型，而其中最高一档只对通过审核的用户开放。这一比较并非同等条件。

开放权重在性能一侧同样不落下风

BenchLeader 于 9 月 30 日更新的开放权重榜单把月之暗面的 Kimi K3 排在首位，得分 66.2，领先于智谱的 GLM 5.3（64.7）和小米新发布的 MiMo-V2.6-Pro（64.5）。这只是单一网站的汇总排名，排序仅供参考，尚无定论。

其他方面，开放发布在这一周持续不断。NVIDIA 于 9 月 29 日发布 Kumo Tabular，这是一个用于表格预测的基础模型，有 28M 到 215M 参数三种规模，只用人工数据预训练，以 OpenMDW-1.1 许可证发布，可商用。该公司称它在四个基准上排名第一：TabArena、BeyondArena、TALENT 和 ScoringBench。Fermion Research 于 9 月 30 日发布 Phonon-2，这是一个语音识别模型，下载体积 164 MB，在 Open ASR Leaderboard 的七个英语数据集上平均词错误率 5.21%，在会议和议会语音上超过其 2.5 GB 的教师模型。

在小规模这一端，commonsense-ai 项目于 9 月 30 日发布 Coop，这是一个由志愿者训练的语言模型，其聚合过程每五分钟在一个无状态的 GitHub Actions 定时任务上运行。第二阶段是一个约 145M 参数的模型，在 FineWeb-Edu 上从头预训练。此前一个 15M 参数的验证性运行在六天内把验证损失从 9.01 降到 2.8。无论是网络能力方面的发现，还是 FTC 的调查，都没有回答开放权重到底该用来做什么。它们确实表明，同一种发布形式如今既承载前沿级的能力，也承载前沿级的风险。