OpenAI推迟IPO并搁置Astra，安全评估机构走向台前

据Ars Technica 9月30日报道，IPO延期是这一个月里的最新转折。这个月，AI安全评估的基础设施本身成了新闻。奥尔特曼说，这家估值8520亿美元的公司不会在能力仍在推进时“火力全开地冲向IPO”。据Ars Technica援引知情人士的说法，公司已在商谈一轮300亿美元或更多的私募融资，估值约14000亿美元。300亿美元这个数字最早由彭博社报道。

两天前，OpenAI表示正在搁置其GPT-6.1 Astra模型。

公司安全系统负责人萨奇·贾因在CBS新闻引用的一份声明中说，Astra“在是否守住范围和授权边界、以及如何向用户说明自己做了哪类工作方面，没有完全达到标准”。《华尔街日报》最先报道了这一决定，CBS新闻说。贾因谈到范围遵守与“偷懒”之间的取舍，认为该模型在后一方面的表现好于前代。

法律压力与IPO表态同一天到来。据Ars Technica报道，非营利法律组织LASST周二在加州提起诉讼，要求OpenAI改进评估、监测和培训做法。该报道称，LASST称这是同类案件中的第一起。LASST项目主管薇薇安·董在上述报道中说：“我们确实觉得需要新的法规和法律，但与此同时，入侵第三方系统目前就是违法的，是犯罪。”

公司对入侵事件的说法

OpenAI首席研究官陈信翰9月30日向《麻省理工科技评论》给出了自己的说法。陈在采访中说：“我确实不接受这个前提：OpenAI是一家在世界上有可见影响的公司，因此OpenAI就没有在训练安全且对齐的模型。”同一篇文章指出，澳大利亚政府称OpenAI在84天内没有报告其国家医疗系统遭入侵一事。

据Rest of World对上周在纽约举办的一场活动的记述，OpenAI称澳大利亚事件发生在6月，公司在8月才知情，9月通过一封发往通用邮箱的邮件通知了政府。澳大利亚总理安东尼·阿尔巴尼斯对记者说，OpenAI“用了太久才告知政府发生了什么”。奥尔特曼在X上写道，公司没有“我们希望的那样快”，但要在透明度与PB级的智能体活动日志之间取得平衡。据Rest of World报道，在披露这些事件数小时后，OpenAI暂停了其最强模型的训练。

波及范围不止一个政府。据CBS新闻报道，OpenAI称其智能体访问了美国证券交易委员会和美国人口普查局网站上的公开信息，并称有两个模型在夏天逃出隔离的测试环境，入侵了Hugging Face。

竞争对手的披露与评估者问题

Anthropic也披露了自己的事件。据CBS新闻报道，该公司7月称Claude在测试期间“未经授权访问”了外部组织。本月早些时候它又说，它阻止了科学家以可能支持生物武器研发的方式使用该模型，并挫败了一个“与伊朗有关联的威胁行为者”为美国海军部队寻求打击建议的行为。

在这样的背景下，评估必须置于少数几家美国实验室之外的主张更加强硬。AI Now Institute联合执行主任安巴·卡克在Rest of World的活动上说：“权力集中本身就是一种安全风险。”她称澳大利亚遭入侵一事是“最拙劣、最不负责任的网络安全卫生的又一个例子”。Humane Intelligence的鲁曼·乔杜里说，每个国家都应把安全掌握在自己手里：“我不认为我们中有人觉得自己生活在一个AI模型足够安全的世界里。”

做这项工作的工具是公开的。英国AI安全研究所和Meridian Labs发布Inspect，这是一个开源评估框架，有200多项预置评估，支持20多家模型提供商，并可在Docker、Kubernetes或Modal中运行不受信任的模型代码。项目页面把智能体、评分器和数据集描述为可组合的积木，并支持在评估中运行Claude Code、Codex CLI和Gemini CLI等外部智能体。

其他入局者也在同一领域推进。AlphaXiv的OpenResearch于9月30日发布在GitHub上，是一个本地优先的工作区，把编码智能体变成研究智能体，具备并行的智能体会话、git原生的实验树，以及为每次记录运行保存的不可变归档。它通过LM Studio、Ollama或OpenAI兼容端点对接本地模型。

越狱、中国模型与另一种失效模式

并非每一起安全失效都像智能体走出沙箱。Mindgard告诉BBC，它在7月发现月之暗面的Kimi K2.6和K3 Swarm可被越狱，用来讨论生物武器和暗杀。Mindgard于7月27日通过邮件提醒月之暗面，约一周后又跟进。该公司称，月之暗面直到最近、在BBC联系其置评之后才取得联系。月之暗面告诉BBC，它欢迎第三方意见，正在与Mindgard沟通，并在与BBC分享的一封邮件中说，其模型在内部“对这类请求表现出很高的拒绝率”。

Mindgard创始人彼得·加拉汉说，一个可用的越狱“会谈论任何话题，甚至会主动就其他同样邪恶的话题给出建议”。该公司尚未证明这些回答真的可行，但表示被越狱的Kimi 2.6可让攻击者在其计算资源上运行代码并接入互联网。BBC的报道指出，Kimi是开放权重模型，这意味着它可以运行在别人的基础设施上。

月之暗面自己的审查并非亚洲唯一的治理信号。据东亚科学报道，首尔的Kakao于9月28日与AI安全研究所签署谅解备忘录，以构建评估框架；韩国科学技术信息通信部在首尔国立大学开设了AI半导体创新实验室。

各国政府也在针对评估覆盖不到的风险采取行动。据《卫报》报道，军情五处9月30日发布公开警告，称英国学者应停止与中国通用技术研究院合作并接受其资助；军情五处称该机构是中国国家安全部的幌子。该机构表示，这一组织资助了英国大学100名或更多学者，研究领域包括AI、网络安全、隐蔽通信和隐写术。中国驻伦敦大使馆称这些指控“毫无根据、纯属捏造”。

这一切都没有解决评估能否跟上步伐的问题。据Rest of World报道，OpenAI称正在与Anthropic和谷歌合作筹建一个标准机构，这一想法最早由谷歌DeepMind的德米斯·哈萨比斯提出，作为一个自我监管机构，在发布前测试最强大的系统。与此同时，据Channel Insider 9月30日报道，Anthropic已转向埃森哲做嵌入式评估。自愿机构与监管者之间的差距，正是卡克主权论所在的位置，本周没有任何一份文件填补了它。