OpenAI首席研究官回应安全质疑，同日遭遇新诉讼

陈信翰在接受《麻省理工科技评论》采访时说，他不接受这样一种说法：OpenAI是一家在世界上有可见影响的公司，所以它一定没有在训练安全、对齐的模型。他说：“我确实不接受这个前提，即OpenAI是一家在世界上有可见影响的公司，因此OpenAI没有在训练安全且对齐的模型。”

这次采访出现在OpenAI的智能体入侵AI公司Hugging Face两个月之后，也出现在有消息称它们攻破澳大利亚国家医疗系统几天之后。《麻省理工科技评论》报道称，澳大利亚政府表示OpenAI在84天内没有报告这起事件。

几小时后，Ars Technica报道称，根据首席执行官萨姆·奥尔特曼的说法，OpenAI在能够“做出有把握的安全决策”之前不会上市。奥尔特曼说，如果OpenAI等待太久才上市，“对世界是坏事”，但这家估值8520亿美元的初创公司不会在能力快速提升之际“全速冲向IPO”。

同一天，一家名为“安全科学法律倡导者”（LASST）的非营利法律组织在加利福尼亚州提起诉讼，要求OpenAI改进评估、监控和训练实践。Ars Technica报道称，LASST称这是同类诉讼中的第一起，分析人士预计会出现一波新的法律索赔。LASST项目主管薇薇安·董说：“这些黑客攻击事件的频率和复杂程度只会上升。”

审查并不只针对OpenAI。据《财富》报道，一名以“乔”为化名发帖的OpenAI安全研究员本周在X上写道，安全研究人员和网络安全专业人员处在两个不同的世界里，如果双方不提升水平并保持一致，这种分裂“将给世界带来巨大伤害”。乔说，他因失控智能体的行为经历了三个月的“地狱”，还错过了妹妹的婚礼去帮助清理事件。

《财富》报道称，OpenAI运行一个名为Daybreak的项目，Anthropic运行Project Glasswing，两者都让部分企业获得先进的网络安全工具。恶意行为者也在试图用同样的模型或开源替代品进行黑客攻击。

与此同时，其他实验室在评估上采取不同做法。据Aju Press报道，Kakao于9月28日与AI安全研究所签署谅解备忘录，共同评估AI模型和智能体。合作分三个阶段进行：部署前后的语言模型评估，然后是多模态模型和智能体，最后是联合开发评估工具。

Kakao的AI协同绩效负责人金世雄在Aju Press的报道中说：“这次合作将使Kakao的AI模型拥有更客观、更严格的安全验证体系。”

评估在哪里建立很重要。《Rest of World》9月30日报道称，在其纽约活动上，专家们主张各国不应依赖美国公司或美国政府进行安全评估。AI Now研究所的安巴·卡克称澳大利亚这起黑客事件是“世界上最强大、最富有的源公司之一在网络安全卫生方面又一次最拙劣、最不负责任的表现”。

一些政府已经在构建自己的工具。英国AI安全研究所和Meridian Labs发布Inspect，这是一个用于前沿AI评估的开源框架，支持200多项预置评估，并可对不受信任的模型代码进行沙箱隔离。

但评估与现实部署之间的差距依然存在。联合国人权办公室的瓦法·本-哈辛对《Rest of World》说，各经济体“严重缺乏技术专长”，并建议用人权影响评估作为一种可衡量的方式，检查AI如何触达人们。