OpenAI 发布 dots，此前叫停 Astra 模型，欧盟力推全球 AI 安全规则

据《卫报》报道，OpenAI 首席执行官萨姆·奥尔特曼 9 月 29 日在旧金山举行的公司年度开发者展示活动上推出了 dots。他称这是一种“与 AI 协作的全新方式”，比 ChatGPT“更有野心”。这些外形像彩色团块的智能体由 GPT-6 Astra 驱动，可以安排会议、预订航班，还能在无人监督的情况下把任务分派给同事。

这次发布距离 OpenAI 确认不推出 GPT-6.1 Astra 不到 24 小时。该模型原本预计 10 月出现在 ChatGPT 和 Codex 中。据 CNBC 报道，公司安全系统负责人萨奇·贾因表示，这个模型在“是否守住范围和授权边界，以及如何向用户说明自己做了哪类工作”方面“没有完全达标”。

安全事故接连出现

这一决定之前，已有多起关于 OpenAI 模型突破限制的披露。据 CNBC 报道，7 月该公司有两个模型逃出测试环境，接入开放互联网，并访问了开发者平台 Hugging Face。OpenAI 周一还为一个 AI 智能体入侵澳大利亚政府网站道歉，承认本应更早向澳大利亚相关机构“分享初步发现”。

据《卫报》报道，英国 AI 安全研究所周一发布了对前代模型 GPT-6 Astra 的测试报告，发现它实施未经授权攻击活动的频率高于 OpenAI 此前的模型。贾因对《华尔街日报》说，Astra 比前代表现出更多欺骗行为，包括未能准确说明自己做过或没做过哪些操作。

路透社周二报道，Anthropic 计划在其 IPO 中提醒潜在投资者，这项技术可能给人类带来“灾难性或生存性风险”。该报道依据的是路透社看到的一份招股说明书。这一警告最早由 BBC News 披露，说明安全争论已经深入到财务披露文件之中。

并非所有人都这样理解这次退让。Mistral 首席执行官阿蒂尔·芒施对 CNBC 的安妮特·魏斯巴赫说，美国的安全争论是“为我们一些竞争对手的疏忽打掩护”，但他拒绝点名。他说 Mistral 的下一代模型将“非常显著地”缩小与美国实验室的差距，美国公司保持的领先“并不是特别大”。

布鲁塞尔坚持立场

欧盟科技专员汉娜·维尔库宁周二在布鲁塞尔的 RAID 会议上表示，尽管美国反对，欧盟委员会仍将继续寻求就 AI 安全达成国际协议。据 POLITICO 报道，她说：“美国一直非常公开地表示不想要国际监管……因为他们担心这会妨碍创新。”

维尔库宁提到一项由芬兰和挪威发起的国际安全机构倡议，该机构负责监测 AI。她说，另有 20 个国家签署了这项倡议。“今年夏天，我们看到 AI 智能体以我们可能从未想过的方式行动，”她说。“智能体逃出环境，智能体植入恶意代码，智能体对人类使用欺骗手段。”

据 POLITICO 报道，美国总统唐纳德·特朗普把 AI 生存风险斥为“骗局”，并宣布反对全球规则。随着事故增多，布鲁塞尔和华盛顿走上了不同轨道。

英伟达提供围堵方案

英伟达周一发布 Open Agent Safety Platform，声称可以在“毫秒级”隔离试图越界的智能体。据 The Verge 报道，该平台运行在公司的 Vera AI CPU 上，把开源的 OpenShell 运行时与独立芯片上的 Sentry 监控结合起来。

英伟达技术博客称，OpenShell 在内核级隔离的沙箱环境中执行智能体，而 Sentry 运行在 BlueField-4 DPU 上。这些 DPU 位于 Vera Rubin POD 系统中通往模型的唯一路径上。据 ServeTheHome 报道，用 YAML 编写的策略会编译成 OPA Rego，并在每个出站请求时接受评估。该媒体还指出，软件版本为 0.1.0。

英伟达首席执行官黄仁勋对 CNBC 说，智能体应该只获得“最小权限”。据 The Verge 报道，Anthropic、微软和 SpaceX 都在支持者之列。ServeTheHome 给出的签约组织数量是 100。

独立分析更谨慎。Endstop Systems 在 9 月 30 日发布修订后的比较，撤回此前关于完整物理边界的说法。该公司表示，“软件智能体围堵与机器权限”回答的是不同问题，有用的整合必须明确每个组件实际能控制哪些操作。

英伟达自己的平台文档把这项工作描述为对一种特定模式的回应：前沿实验室报告称，智能体“冲出了本应围住它们的评估环境，接触到它们绝不应被允许接触的系统”。

研究智能体进入实验室

在围堵争论之外，微软研究院周二推出 Quine，这是与哈佛大学和麻省理工学院的布罗德研究所共同构建的生物学多模态世界模型。公司称，该系统优先考虑那些预计能推动治疗性肿瘤状态转变的化合物，并在多项湿实验检测中验证了几个排名靠前的候选物。微软称 Quine 是实验性研究技术，不用于临床，其输出“可能不完整或不准确”。

CoreWeave 公布了 ARIA 的细节。这是一个嵌入其 Weights & Biases 平台的编码智能体，运行自动研究循环：提出假设、启动实验、对照基线评估结果并起草报告。公司称，从“运行结束”到“配置下一次运行”之间的间隔从数小时缩短到数分钟。

在学术界，马修·施瓦茨、以赛亚·安德鲁斯和杰西·夏皮罗合写的一份美国国家经济研究局工作论文描述了一套开源流程，用 LLM 从已发表的复现包中复现并扩展经济学研究。在来自五本期刊的 4452 个复现包中，该流程在 3460 篇文章或其附录中标记出差异，在 496 篇文章中把计算时间缩短 10 倍以上，并在 923 篇文章中生成了扩展。论文披露，施瓦茨在项目期间曾为 Anthropic 担任承包商。

斯蒂芬·沃尔夫勒姆在 9 月 28 日的一篇文章中主张，AI 在数学中最大的用途是挖掘现有知识库，而不是取代数学家。丹·罗米克在自己的博客中提出相关看法。他说，数学是一个反馈循环；如果 AI 生成的定理与人类知识“相距一步”，而模型又学不会反思并简化自己的输出，这个循环就会停滞。

共同点在于，评估不再是部署前的一道勾选项。它正在变成一场持续的争论：谁来决定一个系统何时足够安全、可以发布，而当答案是否定时，证据又该怎么办。