OpenAI承认推理被窃取,开放权重模型涌入决策模型市场
OpenAI于10月1日表示,它关闭了一场试图提取其模型隐藏推理内容的行动。同样的手法在微软Azure上持续奏效了数周。同一天出现了三个新的开放或开放权重模型发布,以及一项新的指控:前沿模型的安全防护并不会随模型权重一起迁移。

OpenAI在一篇博客文章中披露了这次行动,《The Decoder》和《The Hacker News》于10月1日报道了此事。据OpenAI称,相关活动于2026年7月1日以较低频次开始。7月24日和25日,请求量激增至16000次,来自4000多名用户。OpenAI在7月28日前将其完全关闭。OpenAI文章中的一条脚注称,这些是尝试性提取,未必成功。
OpenAI将其中“一个核心集群”的活动归因于与月之暗面(Moonshot AI)有关联的人员,这家北京公司是Kimi模型的开发方。《The Hacker News》指出,OpenAI并未为该归因提供技术证据。该公司还表示,尚不清楚其观察到的每个行为者是否都指向同一个来源。
修补之后依然奏效的手法
这一机制并不是传统意义上的黑客攻击。服务商以加密数据包的形式把模型的推理内容返回给客户。客户在后续请求中把这些数据包一并传回。研究人员Joachim Schaeffer及其同事证明,这些数据包使用共享密钥。因此它们可以在同一服务商的会话、用户和模型之间转移。一个更便宜的模型随后充当解密预言机,把更强模型的隐藏思路以明文输出。OpenAI点名感谢了这些研究人员,并表示已确认他们的攻击路径真实存在。此后它封禁了相关账户、收紧了注册流程、关闭了重放通道,并增加了对流式输出的筛查。《The Decoder》报道称,研究人员在同一天发布了更新。“我们又偷到了推理内容,”Schaeffer在X上写道。他认为,保护好自己的API,并不能保护转售同一模型访问权的云服务商所构成的更广泛生态。
这一说法对开放权重模型同样重要。
Anthropic过去一周一直警告称,GLM-5.3等中国开放模型达到了顶尖的漏洞利用编写能力,却没有同等的安全防护。《南华早报》和Tom's Hardware报道了这些说法。据Startup Fortune 10月1日报道,Yann LeCun公开称Dario Amodei的网络安全说法言过其实。这场争论尚无定论。
决策模型,而非聊天机器人
10月1日最具体的开放权重消息,规模比前沿模型小。Cloudflare发布了Clef和Clef-flash,这两个决策模型托管在Workers AI上,并以Apache 2.0协议在Hugging Face上开源。Cloudflare称Clef在Jev决策指数上排名第一。在一次内部威胁情报测试中,它用2.2秒完成了一个网站的分类。同样的流程用gpt-oss-120b需要4.7秒。
其他公司也在进入同一类别。TechCrunch 10月1日报道,随着决策模型不断增多,亚马逊发布了自己的Jev克隆。该媒体还在9月30日报道,OpenAI新的Decisions API为其Luna模型提供了一组预定义的选项供其选择。InfoQ 10月1日报道了TypeSafe AI的Jev,它返回的是带类型的概率而不是文本。Sebastian Raschka在9月29日的分析中认为,Jev是一个文本分类器,比通用大语言模型更快、更便宜,但并不能取代它们。
在其他方向,开放权重的潮流贯穿研究与硬件。Meta的Superintelligence Labs于9月29日发布了Context Language Models,代码放在GitHub上。它声称在BrowseComp-Plus上准确率高出11.4%,浮点运算量减少21.5%。一个名为Coop的志愿项目正在用捐赠的消费级硬件预训练一个14500万参数的模型。一个七节点的ESP32-S3集群通过SPI运行一个5亿参数的BitNet模型。这些都不构成对前沿实验室的威胁。合在一起,它们显示出市场的低价一端正走向何处。
资料来源
15- 01OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
- 02OpenAI Disrupts Reasoning Extraction Campaign Linked to Moonshot AI AssociatesEN
- 03Introducing Clef: our open-source decision models, and new RL fine-tuning platformEN
- 04Amazon releases its own Jev clone as decision models flood the webEN
- 05OpenAI's Jev clone could help the frontier lab stop its swarming agentsEN
- 06TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
- 07Language models for text classification: From bag-of-words to JevEN
- 08Context Language ModelsEN
- 09facebookresearch/context-language-modelsEN
- 10Coop: A small language model pretrained by volunteersEN
- 11ESP32S3 cluster running 1.58-bit (BitNet) Language modelEN
- 12China's DeepSeek open-sources tools to help Huawei chips supplant Nvidia in AIEN
- 13Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agentsEN
- 14OpenAI halts frontier-model training amid string of agent misalignment incidentsEN
- 15Language models will hide 'bad news' in reports by defaultEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。