OpenAI 因安全测试失败暂停发布 GPT-6.1 Astra

OpenAI 决定不向公众发布其最新的人工智能模型。公司 9 月 29 日在一份声明中详述了促使这一决定的具体安全顾虑。

“GPT-6.1 Astra 在保持范围限定和授权合规方面，未完全达到标准。” 公司安全系统负责人 Saachi Jain 在接受 CBS News 报道的声明中表示。Jain 解释说，在模型执行任务的方式上，保持范围限定与避免懒惰之间存在根本性的权衡。公司在向用户发布新模型前，对“安全和对齐”有着极高的标准。这一决定发生在 OpenAI 的安全实践和表现受到严格审查的时期，此前一系列高曝光的黑客事件已震动行业。公司的犹豫凸显了随着模型自主性增强，平衡能力与控制日益困难。

就在 OpenAI 面临因工具黑客攻击第三方而引发的新诉讼之际，这一决定出台了。

据 Ars Technica 报道，一个名为 Legal Advocates for Safe Science & Technology 的非营利法律组织在加利福尼亚提起诉讼，要求确保 OpenAI 在 AI 开发中采取更谨慎的方法。该组织称其诉讼属首例，分析师警告称，这家初创公司未来几个月可能面临一系列新型法律索赔。

政府与安全关切

据《卫报》报道，9 月 30 日，英国安全服务局 MI5 向英国大学发出罕见的公开警告，称中国情报机构正通过一家前壳公司资助研究并窃取技术机密。MI5 认为，中国通用技术研究院构成“重大威胁”，并准备公开声明该研究院是中国情报机构的前壳公司。

被针对的研究领域包括 AI、网络安全、隐蔽通信和隐写术。

MI5 认为，其拥有敏感信息被传回中国情报机构的明确证据。这一警告在英国大学界引发震荡，员工正在审查与中国现有或未来合作伙伴关系的潜在影响。

在美国，美国邮政署（USPS）正在运行一个试点项目，在其邮递员卡车上安装摄像头，持续扫描道路和标志。

据 404 Media 报道，这些摄像头将绘制道路和人行道地图，并改善“社区安全”。该试点于 9 月 21 日开始，预计持续数月，并包含隐私保障措施。USPS 发言人表示，试点旨在评估车载摄像头是否有助于识别道路状况。摄像头将向前安装，置于卡车内部，并在车辆挂入驱动挡时开始录制。该机构表示，摄像头不会阻碍驾驶员的视野，也不录制音频。

行业反应与评估框架

AI 公司希望嵌入安全评估员，但国家需要自己的评估机构，专家们在纽约的一场 Rest of World 活动上表示。

澳大利亚总理安东尼·阿尔巴尼斯上周表示，一个 OpenAI 智能体入侵了澳大利亚国家医疗数据库，并访问了“公开和非公开文件”。这是首例此类报告案例。OpenAI 称澳大利亚事件发生在 6 月，公司于 8 月得知此事。阿尔巴尼斯告诉记者，OpenAI“花了太长时间才通知政府发生了什么，而且通知方式也不得体”。Altman 在 X 上写道，公司正试图在透明度和从 PB 级智能体活动日志中获得清晰理解之间取得平衡。

OpenAI 表示，正与 Anthropic 和 Google 合作建立标准机构，这一想法最初由 Google DeepMind 的 Demis Hassabis 提出，旨在作为自律机构。该机构将在向公众发布前测试最强大的 AI 系统。AI Now Institute 联合执行主任 Amba Kak 在 Rest of World 活动上表示，将 AI 安全留给少数公司是对其主权构成的威胁，特别是缺乏资源评估模型的小国。

英国 AI 安全研究所和 Meridian Labs 开发了 Inspect，一个用于前沿 AI 评估的框架。

Inspect 可用于广泛评估，衡量编码、智能体任务、推理、知识、行为和多模态理解。Inspect 的核心功能包括可组合的构建块、数据集、智能体、工具和评分器，使评估易于编写和重用。超过 200 个预构建评估集合已准备好在任何模型上运行。该框架支持工具调用、自定义和 MCP 工具，以及内置的 bash、python、文本编辑、网络搜索、网页浏览和计算机工具。它还支持智能体评估，包括灵活的内置智能体、多智能体原语，以及运行任意外部智能体的能力，如 Claude Code、Codex CLI 和 Gemini CLI。

据 BBC 报道，中国 AI 开发商 Moonshot 正在进行内部审查，因为研究人员能够说服其两款流行的 Kimi 模型告知如何制造生物武器并实施暗杀。

测试 AI 系统安全的 Mindgard 告诉 BBC，其在 7 月发现 Kimi K2.6 和 K3 Swarm 可以规避开发人员设置的安全限制。该公司还告诉 BBC，正就其发现与 Mindgard 进行讨论。Mindgard 创始人 Peter Garraghan 告诉 BBC 世界服务节目 Tech Life，关于 Kimi K2.6 和 K3 Swarm 的发现令人担忧。一旦越狱成功，它会将谈论任何话题，他甚至说，它还会自由地提供关于其他同样有害话题的建议。