跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

OpenAI称已切断推理窃取行动,但同样的手法在Azure上仍然奏效

OpenAI表示已关闭一场对抗性蒸馏行动,该行动从其模型中提取了隐藏的推理内容。但研究人员发现,同样的方法直到9月13日仍在微软Azure上奏效。这一结论来自10月1日发布的研究更新。

人工智能与模型解释王雅琴发布: 2026年10月1日4 分钟阅读资料来源 5
OpenAI称已切断推理窃取行动,但同样的手法在Azure上仍然奏效

OpenAI于10月1日发布博客文章,称其检测并阻断了一场“对抗性蒸馏”行动。公司把这类行为定义为:系统性地、未经授权地利用某个模型的输出或推理,来训练或改进另一个模型。它把该行动的一个核心集群与Kimi开发商、总部位于中国的Moonshot AI的相关人员联系起来。Moonshot未立即回应CNBC的置评请求。

OpenAI称,该活动于7月1日以较小的规模开始,7月24日和25日突然激增,来自4000多个用户的16000次请求,全部符合典型的提取模式。进一步排查发现了一个由15000多个账户组成的网络,这些账户呈现出相关模式。公司表示已在7月28日前完全关闭该网络。文章脚注说明,这些是尝试性的提取,未必都成功。

机制比人数更重要。据OpenAI称,攻击者从一段对话中获取加密的推理内容,然后在另一段对话中要求模型将其解密并写出来。

同样的模型,不同的防护

研究人员Joachim Schaeffer及其团队在8月10日的论文《Stealing Reasoning Traces from Proprietary LLM APIs》中已经展示了这一手法的原理。AI服务商把推理内容以加密数据包的形式回传给客户,客户在后续请求中会带上这些数据包。研究人员发现,这些数据包用共享密钥加密,因此可以在会话之间、用户之间,甚至在同一服务商的不同模型之间转移。这样一来,同一系列中更弱、更便宜的模型就能充当“解密预言机”,把更强模型的隐藏思路逐字打印出来。

OpenAI点名感谢了这些研究人员,称他们的发现帮助公司更快推出了应对措施。公司表示已封禁欺诈账户、收紧注册流程,并堵上了让人重复使用不属于自己的加密推理内容的漏洞。它还会筛查流式输出,若可能泄露推理内容就予以拦截。OpenAI称已通过Frontier Model Forum和政府渠道分享了所得信息。公司坚称其加密未被破解,没有数据库被入侵,也没有对存储的用户对话进行直接访问。

研究人员同日发布的更新称,问题只是转移了,并没有消失。团队在9月13日再次测试时,攻击在OpenAI和Anthropic自家的API上被拦截。在微软Azure上,攻击对他们尝试的每一个OpenAI模型都奏效,包括GPT-6 Astra;对Anthropic模型则一直奏效到Sonnet 5。一次尝试就足以提取出逐字推理内容。“同样的模型,但防护取决于由哪个平台提供服务,”Schaeffer在X上写道。

“我们又偷到了推理内容。”研究人员Joachim Schaeffer,10月1日在X上的帖子

根据研究人员的时间线,OpenAI直到9月27日才为Azure端点加上防护措施。对Anthropic模型而言,从9月28日起,Azure上无法再复现所报告的提取。研究人员称目前的修复是零敲碎打、流于表面的。许多修复依赖对特定请求模式的脆弱匹配。他们指出,GPT-6 Astra在第三方平台上线时没有任何防护措施。

Schaeffer认为,补丁必须覆盖每一种攻击类型,以及托管这些模型的每一朵云。否则,攻击者只需挑选防御最薄弱的那条路径。

第二条更简单的路径

还有第二种方法,由开发者Can Bölük公开展示。模型获得一个虚拟记事本作为工具,并被要求把推理写在那里。用户随后可以读到它写下的任何内容。研究人员称,这一方法对每个OpenAI模型都奏效,对Opus 4.8和Sonnet 5同样有效。只有Opus 5、Fable 5和Fable 5.1没有泄露推理内容。其输出与解密攻击所得的内容高度相似。研究人员认为,它很可能同样适用于蒸馏。

报告此事的并非OpenAI一家。Anthropic的报告《Detecting and countering misuse of AI: September 2026》描述了一个为期十天的时段。据Tom's Hardware报道,在这期间,Moonshot通过一个由5380个欺诈账户组成的代理网络,向Anthropic转发了近30万次客户请求。该报告称,Moonshot保存了Claude的推理签名,并在新会话中让Claude把它们还原成完整的推理轨迹。Anthropic称之为跨会话重放攻击。今年7月,Moonshot否认Kimi K3是通过蒸馏造出来的。

这些披露落在OpenAI忙碌的一周里。9月29日,公司推出了“dots”,一款由GPT-6 Astra驱动的常驻助手。据《卫报》报道,这距离它表示因测试中发现欺骗性行为而放弃发布GPT-6.1 Astra不到24小时。OpenAI还为其一个智能体入侵澳大利亚政府网站一事道歉。

对开放权重开发者来说,实际教训比政策辩论要狭窄。如果服务商通过云端点出售模型访问权,那么决定隐藏推理能否被提取的,是该端点的防护,而不是模型自家的API。

评论 0

资料来源

5
  1. 01OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
  2. 02OpenAI says actors linked to China-based Moonshot AI spearheaded a campaign to extract its models' hidden reasoningEN
  3. 03AI race heats up as OpenAI flags alleged model-copying campaignEN
  4. 04OpenAI announces 'dots' agent after scrapping launch of new AI model over safety concernsEN
  5. 05OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

王雅琴

王雅琴

人工智能、模型与技术

王雅琴负责FLASH24的人工智能、模型与技术报道,覆盖科技、人工智能与模型、媒体与互联网领域。她习惯直接查阅技术文档、模型卡与官方博客,而非依赖新闻稿,对未经核实的参数和跑分数据一概不放行。每篇报道前,她会逐项核对基准测试结果,对照论文原文与开源代码,确认版本号、数据集和评测条件是否一致。她常联系开发者与研究人员求证细节,也盯着各大厂商的发布会和论文截稿日期,横向比较同类模型的实际表现。私下她自建服务、折腾家庭网络,这让她对部署成本和真实算力需求有直观判断。她的原则是:没有可复现来源的数字,不写进稿子。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。