跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

OpenAI承认推理被窃取,开放权重模型涌入决策模型市场

OpenAI于10月1日表示,它关闭了一场试图提取其模型隐藏推理内容的行动。同样的手法在微软Azure上持续奏效了数周。同一天出现了三个新的开放或开放权重模型发布,以及一项新的指控:前沿模型的安全防护并不会随模型权重一起迁移。

人工智能与模型分析林晓雯发布: 2026年10月1日3 分钟阅读资料来源 15
OpenAI承认推理被窃取,开放权重模型涌入决策模型市场

OpenAI在一篇博客文章中披露了这次行动,《The Decoder》和《The Hacker News》于10月1日报道了此事。据OpenAI称,相关活动于2026年7月1日以较低频次开始。7月24日和25日,请求量激增至16000次,来自4000多名用户。OpenAI在7月28日前将其完全关闭。OpenAI文章中的一条脚注称,这些是尝试性提取,未必成功。

OpenAI将其中“一个核心集群”的活动归因于与月之暗面(Moonshot AI)有关联的人员,这家北京公司是Kimi模型的开发方。《The Hacker News》指出,OpenAI并未为该归因提供技术证据。该公司还表示,尚不清楚其观察到的每个行为者是否都指向同一个来源。

修补之后依然奏效的手法

这一机制并不是传统意义上的黑客攻击。服务商以加密数据包的形式把模型的推理内容返回给客户。客户在后续请求中把这些数据包一并传回。研究人员Joachim Schaeffer及其同事证明,这些数据包使用共享密钥。因此它们可以在同一服务商的会话、用户和模型之间转移。一个更便宜的模型随后充当解密预言机,把更强模型的隐藏思路以明文输出。OpenAI点名感谢了这些研究人员,并表示已确认他们的攻击路径真实存在。此后它封禁了相关账户、收紧了注册流程、关闭了重放通道,并增加了对流式输出的筛查。《The Decoder》报道称,研究人员在同一天发布了更新。“我们又偷到了推理内容,”Schaeffer在X上写道。他认为,保护好自己的API,并不能保护转售同一模型访问权的云服务商所构成的更广泛生态。

这一说法对开放权重模型同样重要。

Anthropic过去一周一直警告称,GLM-5.3等中国开放模型达到了顶尖的漏洞利用编写能力,却没有同等的安全防护。《南华早报》和Tom's Hardware报道了这些说法。据Startup Fortune 10月1日报道,Yann LeCun公开称Dario Amodei的网络安全说法言过其实。这场争论尚无定论。

决策模型,而非聊天机器人

10月1日最具体的开放权重消息,规模比前沿模型小。Cloudflare发布了Clef和Clef-flash,这两个决策模型托管在Workers AI上,并以Apache 2.0协议在Hugging Face上开源。Cloudflare称Clef在Jev决策指数上排名第一。在一次内部威胁情报测试中,它用2.2秒完成了一个网站的分类。同样的流程用gpt-oss-120b需要4.7秒。

其他公司也在进入同一类别。TechCrunch 10月1日报道,随着决策模型不断增多,亚马逊发布了自己的Jev克隆。该媒体还在9月30日报道,OpenAI新的Decisions API为其Luna模型提供了一组预定义的选项供其选择。InfoQ 10月1日报道了TypeSafe AI的Jev,它返回的是带类型的概率而不是文本。Sebastian Raschka在9月29日的分析中认为,Jev是一个文本分类器,比通用大语言模型更快、更便宜,但并不能取代它们。

在其他方向,开放权重的潮流贯穿研究与硬件。Meta的Superintelligence Labs于9月29日发布了Context Language Models,代码放在GitHub上。它声称在BrowseComp-Plus上准确率高出11.4%,浮点运算量减少21.5%。一个名为Coop的志愿项目正在用捐赠的消费级硬件预训练一个14500万参数的模型。一个七节点的ESP32-S3集群通过SPI运行一个5亿参数的BitNet模型。这些都不构成对前沿实验室的威胁。合在一起,它们显示出市场的低价一端正走向何处。

评论 0

资料来源

15
  1. 01OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
  2. 02OpenAI Disrupts Reasoning Extraction Campaign Linked to Moonshot AI AssociatesEN
  3. 03Introducing Clef: our open-source decision models, and new RL fine-tuning platformEN
  4. 04Amazon releases its own Jev clone as decision models flood the webEN
  5. 05OpenAI's Jev clone could help the frontier lab stop its swarming agentsEN
  6. 06TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  7. 07Language models for text classification: From bag-of-words to JevEN
  8. 08Context Language ModelsEN
  9. 09facebookresearch/context-language-modelsEN
  10. 10Coop: A small language model pretrained by volunteersEN
  11. 11ESP32S3 cluster running 1.58-bit (BitNet) Language modelEN
  12. 12China's DeepSeek open-sources tools to help Huawei chips supplant Nvidia in AIEN
  13. 13Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agentsEN
  14. 14OpenAI halts frontier-model training amid string of agent misalignment incidentsEN
  15. 15Language models will hide 'bad news' in reports by defaultEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。