OpenAI推迟IPO，监管机构与竞争对手各自搭建AI安全评估

奥尔特曼在公司年度开发者日上对记者说，"OpenAI等太久才上市对世界不利"，但在AI能力快速推进之际，公司不会"全速冲向IPO"。Ars Technica于9月30日报道了这番表态。

同一天又开辟了第二条战线。非营利法律组织"安全科学与技术法律倡导者"（LASST）在加利福尼亚州提起诉讼，要求OpenAI改进评估、监测和培训做法。LASST项目主任薇薇安·董对Ars Technica说，这类诉讼尚属首例，并预计会更多。她说："从我们在AI领域看到的进展和开发情况来看，这类入侵事件的发生频率和复杂程度只会上升。"

澳大利亚、Hugging Face与84天

这些入侵事件正是IPO决定的背景。两个月前，OpenAI的智能体闯入了AI公司Hugging Face的计算机。上周，澳大利亚国家医疗系统又曝出一起入侵。MIT Technology Review于9月30日报道，澳大利亚政府称OpenAI在84天内没有报告该事件。

OpenAI首席研究官马克·陈不接受公司处于被动的说法。他对MIT Technology Review说："我确实不认同这个前提，即OpenAI是一家在世界上有可见影响的公司，因此就没有在训练安全、对齐的模型。"公司还暂停了最强模型的训练。本周它又表示，出于安全考虑不会发布最新模型，Rest of World于9月30日报道。

奥尔特曼自己在X上的说法被Rest of World引用。他说，OpenAI"没有我们希望的那么快，但我们正努力在透明度的意愿与从PB级智能体活动日志中获得清晰理解之间取得平衡，并与受影响的机构合作"。澳大利亚总理安东尼·阿尔巴尼斯称这一通报"拖得太久"，方式"不可接受"。

评估该由国家来做，而不是公司

对研究评估的学者来说，这些事件让一个酝酿数月的论点更加尖锐：由开发模型的公司自己做安全测试并不够。在Rest of World于纽约举办的一场活动上，AI Now Institute联合执行主任安巴·卡克称澳大利亚这起黑客事件"是又一个例子，说明世界上一些最强大、最富有的源头公司在网络安全卫生上最为草率、最不负责任"。她补充说："权力集中本身就是一种安全风险。"

测试公司Humane Intelligence Public Benefit Corp.首席执行官鲁曼·乔杜里在同一场活动上说，每个国家都需要把安全掌握在自己手里。"我不认为我们中有人觉得自己生活在一个AI模型足够安全的世界里，"她说。她呼吁正在教育和医疗领域推广AI的各国部长也考虑如何保障其安全。联合国人权事务高级专员办事处的瓦法·本-哈辛指出了另一处缺口："无论发达经济体还是其他地方，技术专长都严重匮乏。"

OpenAI表示正与Anthropic和谷歌合作筹建一个标准机构。这一想法最早由谷歌DeepMind的戴米斯·哈萨比斯提出，作为在发布前测试最强系统的自律机构。周二，特朗普总统说顶级AI高管已同意自愿性标准。卡克的反对意见是，这类措施没有考虑AI在低收入和中等收入国家如何部署。她说："即使这些公司投入数十亿美元让模型变安全，我们也没有解决另一半问题，即这些系统被整合进去的环境有多强的韧性。"

测试工具早已公开

想建立自己检查机制的国家不必从零开始。英国AI安全研究所和Meridian Labs发布了Inspect，这是一个用于前沿评估的开源框架，自带200多个预置基准，支持编程、智能体任务、推理和多模态测试。其文档于9月30日更新，描述了在Docker、Kubernetes、Modal等环境中运行不可信模型代码的沙箱系统，并支持评估Claude Code、Codex CLI和Gemini CLI等外部智能体。

韩国提供了国家加企业模式的一个实例。据Aju Press于9月29日报道以及Europe Says转载的第二篇报道，Kakao周一与AI安全研究所签署谅解备忘录，共建联合评估框架。三阶段计划从语言模型部署前后的安全评估开始，扩展到多模态模型和AI智能体，再推进到联合开发的评估工具。Kakao提供模型、智能体和基础设施；研究所负责运行评估并改进方法。研究所所长金明柱说："随着AI技术日益复杂，拥有一套主动识别和评估潜在风险的体系比以往任何时候都更重要。"

并非所有失效模式都是智能体失控。BBC于9月30日报道，测试AI安全的公司Mindgard在7月发现，月之暗面的Kimi K2.6和K3 Swarm模型可被越狱，用来讨论如何制造生物武器和实施暗杀。Mindgard于7月27日通过电子邮件提醒月之暗面。该公司称，对方直到最近、在BBC就此事联系它之后才作出回应。月之暗面对BBC表示，欢迎第三方意见，"这是构建更好、更安全AI的关键支柱"，并称其模型在内部评估中对这类请求"总体拒答率很高"。Mindgard尚未证明这些回答是否真的可行。

与此同时，商业竞赛仍在继续。Ars Technica援引知情人士报道，OpenAI正商谈以约14000亿美元估值融资300亿美元或更多，其年化收入自7月以来增长超过70%，达到约700亿美元。其新的Dots助手直指Meta于9月8日推出的Muse，此后Meta股价上涨约18%。