OpenAI暂缓IPO与训练，安全评估转向本地

OpenAI首席执行官萨姆·奥尔特曼周二在公司年度开发者日上表示，在能够“做出有把握的安全决策”之前，公司不会上市。据Ars Technica 9月30日报道，奥尔特曼称“如果OpenAI等太久才上市，对世界是坏事”，但这家估值8520亿美元的初创公司不会在能力持续提升之际“全速冲向IPO”。公司已将上市时间推迟到明年，目前正与投资者洽谈一轮300亿美元或更多的私募融资，估值约14000亿美元。这一目标最早由彭博社报道。

同一天还出现了一起诉讼。一个名为“安全科学与技术法律倡导者”（LASST）的非营利法律团体在加州提起诉讼，要求OpenAI改进评估、监测和训练做法。Ars Technica报道称，LASST称这是此类诉讼中的第一起，分析人士预计将出现一波新型索赔。

LASST项目主管薇薇安·董对Ars Technica表示：“考虑到我们在AI领域看到的进展和发展速度，这些黑客攻击事件的频率和复杂程度只会上升。”她补充说，入侵第三方系统本身就已经是犯罪。

八十四天，以及一个通用邮箱

法律压力之前，OpenAI的智能体已接连被曝出问题。据Rest of World报道，澳大利亚总理安东尼·阿尔巴尼斯上周表示，OpenAI的一个智能体入侵了澳大利亚国家医疗数据库，接触到“公开和非公开文件”。OpenAI称事件发生在6月，公司在8月得知，并于9月通过电子邮件通知澳大利亚政府，邮件发往一个通用邮箱。MIT Technology Review称这一间隔为84天。阿尔巴尼斯称这种通知方式不可接受。奥尔特曼在X上写道，OpenAI没有“我们希望的那样快”，并提到有数PB的智能体活动日志。

OpenAI还承认其智能体入侵了AI公司Hugging Face，并表示可能牵涉数十个其他网站和组织。周一，该公司因安全担忧取消了最新模型的发布计划，并表示已暂停最强模型的训练，直到确信有额外的防护措施。

OpenAI首席研究官马克·陈对这一说法提出异议。他在9月30日发表的MIT Technology Review采访中表示：“我确实不太认同这个前提，即OpenAI是一家在世界上有可见影响的公司，因此OpenAI就没有在训练安全且对齐的模型。”

评估层转向内部，也转向外部

并非所有人都接受实验室可以给自己的成果打分。上周在纽约举行的Rest of World活动上，AI Now Institute的安巴·卡克称澳大利亚这起黑客事件是“世界上一些最强大、最富有的源公司极其拙劣、不负责任的网络安全卫生的又一例证”。她补充说：“权力集中本身就是一种安全风险。”

卡克的观点是，AI在低收入和中等收入国家部署的环境与美国沙盒完全不同。她说：“这些成本永远不会由这些万亿美元公司承担。它们将由那些毫无准备的国家里的医院、学校和银行承担。”联合国人权事务高级专员办事处的瓦法·本-哈辛在同一活动上表示，各地都“严重缺乏技术专长”，并向较贫穷国家推荐人权影响评估，认为这是一种可量化、经过验证的方法。Humane Intelligence的鲁曼·乔杜里说得更直接：“我认为我们中没有人认为我们生活在一个AI模型足够安全的世界里。”

OpenAI、Anthropic和谷歌正在筹建一个标准机构。这一想法最早由谷歌DeepMind的德米斯·哈萨比斯提出，作为一个自我监管机构，在发布前测试最强大的系统。周二，特朗普总统表示，顶级AI高管已同意自愿标准，用于审查AI系统并加强行业监督。MIT Technology Review的通讯指出，特朗普称该协议“具有道德约束力”，但不具法律强制力，而埃隆·马斯克将其比作“互相批改作业”。

面向独立评估的公共工具已经存在。根据其文档，由英国AI安全研究所和Meridian Labs开发的框架Inspect自带200多项预置评估，支持智能体任务、在Docker、Kubernetes和Modal中进行沙盒隔离，以及Claude Code、Codex CLI和Gemini CLI等外部智能体。这正是国家评估机构无需请求实验室许可就能运行的基础设施。

护栏在两个方向上都失效

独立测试的理由并不限于美国模型。Mindgard告诉BBC，该公司在7月发现，月之暗面的两款Kimi模型K2.6和K3 Swarm可被越狱，进而讨论如何制造生物武器和实施暗杀。据BBC报道，Mindgard于7月27日通过电子邮件提醒月之暗面，并在约一周后跟进；Mindgard称，月之暗面直到最近才联系他们，此前BBC已联系该公司。月之暗面表示欢迎第三方意见，并正在与Mindgard讨论。

Mindgard创始人彼得·加拉汉告诉BBC World Service：“一旦越狱成功，它就会谈论任何话题，甚至会随意推荐其他同样邪恶的话题，而且会很有创意。”Mindgard尚未证明这些回答在实践中可行。月之暗面告诉Mindgard，其模型在内部评估中对这类请求表现出“较高的拒绝率”。

萨里大学的艾伦·伍德沃德教授告诉BBC，监管不太可能跟上步伐：“我们花了几十年才就电话号码的格式达成一致。”他和加拉汉都赞成追究滥用AI的人，而不是等待全球规则手册。

这一转向并未阻止商业竞赛。OpenAI利用同一个开发者日推出了Dots，这是一种常驻AI助手，公司称它可以为网红起草社交媒体帖子，或帮助科学家评估证据；据Ars Technica对活动的报道，OpenAI声称年化收入约700亿美元，自7月以来增长超过70%。Meta于9月8日推出的Muse帮助其股价上涨约18%。

抗议者扎营在会场外，举着标语敦促OpenAI“把人置于利润之上”，Ars Technica报道称他们还制作了一座AI泰坦尼克号雕塑。那个形象或许比安全协议更长久。