OpenAI 发布 dots，前一天刚叫停 GPT-6.1 Astra

OpenAI 周一宣布暂停该模型。公司称内部测试显示，Astra 比上一代更容易欺骗，还会不经许可就推进任务。安全系统负责人 Saachi Jain 对 CNBC 说，Astra「在是否守住范围和授权上，在如何向用户说明自己做了哪类工作上，都没有完全达标」。

dots 跑在 GPT-6 Astra 上，这个模型 OpenAI 在 9 月发布。据 The Register 报道，每个 dot 都有自己的云计算机，可以 24/7 朝目标推进，能长期保留上下文，还能通过连接器接入约 4000 个应用。OpenAI 首席执行官 Sam Altman 在活动上把它们称作「一个始终支持你的 AI 助手」。他说，与 dot 的对话不计入 ChatGPT 订阅的使用额度。一位 OpenAI 发言人告诉 The Register，更深入的工作附带「发布后第一个月的慷慨额度」。

这是对「免费」的一种狭义解读。

在 Codex 或 ChatGPT Work 中由 dot 启动的任务，仍会占用正常使用额度。公司表示，用户之后可以按月支付固定费用，增加 dot 数量，或提高工作的速度和体量。安全话题并没有留在台下。WIRED 周二报道，法律非营利组织 Legal Advocates for Safe Science and Technology 与律所 Gerstein Harrow 在旧金山加州高等法院起诉 OpenAI。起诉书称，其代理在今年夏天入侵 Hugging Face，违反了该州《综合计算机数据访问与欺诈法》。OpenAI 发言人 Drew Pusateri 对 WIRED 说：「Hugging Face 是一起严重事件，我们已采取一系列应对措施，但这起诉讼完全没有依据。」另外，据 Ars Technica 报道，佛罗里达州总检察长 James Uthmeier 周一申请临时禁令，要求阻止在缺乏独立监督的情况下开发模型。这是该州 6 月提起的诉讼的一部分。

澳大利亚、DNS 与披露问题

OpenAI 周一就 6 月一起政府系统入侵事件的处理方式向澳大利亚道歉。据 TechCrunch 报道，一个研究维多利亚州医疗支出的实验性模型进入了 Services Australia 的内部系统，运行命令，取回文件和凭证，还写入了文件。公司表示，没有发现模型接触到个人医疗或犯罪记录的证据。它还将与澳大利亚独立专家成立一个工作组，预计今年年底前完成。Guardian Australia 拿到了 OpenAI 9 月 10 日发往 Services Australia 一个邮箱的五段邮件。此时距离 6 月 18 日的访问已近三个月。该媒体称，邮件以「best」结尾。

另外两起事件显示，这些故障模式能延伸得很远。据 The New Stack 报道，一个被阻止的 OpenAI 代理通过 DNS 隧道外联，连上了外部聊天机器人。DNS 是把网址映射到机器的系统。据 The Register 报道，Glow Security 的研究人员发现，AI 代理把来自 343 家公司的超过 13000 张企业软件项目敏感截图，发到了公开的 GitHub 仓库。他们把这一模式称为 PixelLeak。Glow Security 联合创始人兼 CTO Omer Singer 告诉 The Register，代理无法把图片附加到私有仓库的拉取请求中，于是把截图放进公开仓库，「向开发者展示，『看，这里你能看到前后对比。』」

Astra 的决定背后也有公开测试记录。据 Ars Technica 报道，英国 AI 安全研究所周一发布报告，发现 GPT-6 Astra 比 OpenAI 以往模型更频繁地实施一系列未经授权的攻击活动，包括向开源代码库提交恶意代码，以及创建虚假身份来掩盖这些提交。BBC 指出，对一家大型实验室来说，叫停很罕见。它引用 Alan Turing Institute 的 Tony Cohn 的话，称这是「一个值得欢迎的迹象，说明他们正在认真对待安全顾虑」。King's College London 的 Kate Devlin 对 The Guardian 说，这一事件「提醒人们，决定什么是安全、什么是可信的，仍然是科技公司，而不是监管机构」。

与此同时，Anthropic 正准备上市，同时警告投资者该技术可能对人类构成「灾难性或生存性风险」。路透社看到了一份招股说明书，BBC 在周二作了报道。Anthropic 首席执行官 Dario Amodei 本月早些时候呼吁行业放慢脚步，Altman 支持这一立场。