跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

ServiceNow 的 AutoSynthData 把智能体的失败变成训练数据

ServiceNow 于 10 月 2 日发布了一套企业级智能体流水线,它从模型自身的失败中生成新的训练任务,瞄准的是阻碍部署的检索与工具调用缺口。AutoSynthData 由四名 ServiceNow 研究员在 Hugging Face 上详细说明。

人工智能与模型新闻王雅琴发布: 2026年10月2日7 分钟阅读资料来源 14
ServiceNow 的 AutoSynthData 把智能体的失败变成训练数据

这条流水线叫 AutoSynthData。10 月 2 日发布的工程博客说,它拿目标模型的失败和更强教师的成功作对照,判断模型接下来该学什么,再生成并验证能锻炼这些能力的新任务。

这件事重要,是因为企业智能体的问题很大程度上就是检索问题。智能体如果在需要的那一刻找不到正确的策略、资产记录或工作记录,任务就失败了。而一次失败不足以拿来训练。

ServiceNow 的作者 Esakkivel Esakkiraja、Shruthan Radhakrishna、Denis Akhiyarov 和 Sagar Davasam 把缺口讲得很直白:一个模型可能整体能力很强,却仍然在某个特定环境、某条它处理不好的工作流、某种它用错的工具组合,或者某条它没能遵守的约束上吃力。文章给生成的任务定了三个条件:可行、真实、有难度。它也给评判结果的验证器定了三个条件,第一个是一致性。验证层是承重的那一块:没有可靠的检查,合成任务什么也教不了。ServiceNow 在 EnterpriseOps Gym 上演示了这套方法,那是今年随一篇论文发布的基准测试。同一时间窗口里还有几项研究从不同角度攻同一个问题:如何让企业系统扎根在它真正能据以行动的上下文里。

检索质量成为可测量的变量

9 月 30 日,两篇提交到 arXiv 的预印本论文瞄准了企业检索之下的表示层。Merieme Askour 和 Ayoub Merimi 提出了生成式 AI 个性化中的上下文充分性理论。他们认为,一旦提供上下文的成本变低,更多并不等于更好。

他们的框架划分出四种状态:不足、充分、饱和与干扰,并定义了「上下文充分性边界」来定位最小相关集合。在一家大型家居用品零售商的生成式推荐系统上,他们做了全因子实验。结果相关上下文提升了恰当性,不相关上下文则降低了它,并让检索变得不稳定。

第二篇论文来自 Terry Dorsey 和 Kevin Huggins,提出了「企业表示简化」以及一个表示中立的模型「企业表示复杂度」。作者认为,企业信息会不断累积由应用、项目和组织边界塑造出来的结构,而这种表示复杂度必须由人和 AI 系统共同维护和解读。他们对检索从业者的核心主张是:降低任务层面的复杂度,会缩小 AI 系统需要识别、关联和解读的表示范围。text-to-SQL 研究提供的证据表明,降低模式复杂度和推理复杂度可以提高准确率。作者也谨慎地指出,ERC 不是通用的复杂度、性能或成本指标。

两篇论文都没有交付产品。但它们指向同一个诊断。往检索系统里塞更多上下文,和给它足够的上下文不是一回事。这个差别会在生产环境里表现为不稳定的答案。

身份是扎根问题的另一半

The Hacker News 于 9 月 28 日发布了一套 AI 智能体的身份与访问管理框架,它点出了一个检索团队往往很晚才发现的失效模式。IAM 平台表达的是预期的访问权限,而应用和基础设施暴露的是智能体实际执行了什么。

两者之间就是文章所说的身份暗物质:那些中央身份数据从不上报的智能体、凭证、应用本地账户和认证路径。文章引用了 OWASP 的《大型语言模型应用十大风险》,其中把过度代理列为 LLM06,并列出五种常见失效,包括缺少归属、长期有效的密钥和无边界的委托。

它与检索的关系很直接。一个被授予宽泛权限的智能体可以拉取它从未被授权查看的数据,而静态角色分配管不住这种行为。配置发现描述的是可能性,遥测描述的是实际发生了什么。

云厂商把管道往下压到栈里

据 InfoQ 10 月 1 日报道,微软把 Azure Container Apps Express 正式开放,同时开放的还有 Express 所运行的隔离计算层 Azure Container Apps Sandboxes。Express 接收一个容器镜像、一个区域和应用所需的配置,然后自行置备计算、入口和伸缩。它运行在按秒计费的消费型 CPU 上,空闲时缩容到零。

微软称 Express 是开发者优先、智能体优先的。其文档说明它完全构建在 Sandboxes 之上。Sandboxes 从预热池中置备,实现亚秒级启动,把每个工作负载隔离在各自的硬件隔离微虚拟机边界内,并支持挂起与恢复,恢复时间不到一秒。开发者可以直接使用 Sandboxes,微软把这条路径定位给智能体平台和安全代码执行服务。Reddit 上的反应暗示这套原语在公告之前就已在用。一位名叫 MuhBlockchain 的评论者声称 ACA Sandboxes 支撑着包括 Foundry Hosted Agents 在内的核心 Azure 服务,而微软自己的材料并未提到这一点。

CoreWeave 一天前也朝同一方向走。据 Data Center Knowledge 报道,它于 9 月 30 日在旧金山 Fully Connected 活动上发布了 CoreWeave Forge,这是一个用于开发、运行和改进 AI 模型与智能体的集成软件平台。Forge 提供 Free、Pro 和 Enterprise 三个版本,包含 CoreWeave Notebooks、用于观测生产智能体的 Agent Lens,以及 RL Rollouts。

CoreWeave 产品管理高级副总裁 Corey Sanders 在媒体简报会上说,公司已从专注于做 AI 基础设施的最佳提供方,转向交付让客户在其平台上构建应用的 AI 服务。IDC 分析师 Dave McCarthy 对 Data Center Knowledge 说,CoreWeave 需要更广的企业客户群和更大的软件生态,才能建立可持续的业务。

需求从哪里来

中国互联网络信息中心报告称,截至 6 月底中国生成式 AI 用户规模突破 7亿,比 2025 年底的 60200万增长 16%,当时普及率为 42.8%。9 月 29 日报道此事的《南华早报》指出,受访用户中有 76% 表示用生成式 AI 找答案,48% 用于处理图片或视频,38% 用于文本处理。

这些是消费级数字,不是企业级数字。但它们设定了企业检索系统如今被拿来对照的期望基线,也解释了为什么整条栈上的厂商都在争相让智能体的输出看起来不那么像猜测。

底下的基础设施约束是真实的。光学频率梳发生器用单个激光器产生多个波长,而不必每个通道一个激光器。据 Data Center Knowledge 9 月 24 日报道,随着 AI 数据中心每根光纤的波长数超过 16,它正被推销为降低功耗、成本和故障点的办法。Pilot Photonics 创始人兼 CTO Frank Smyth 说,梳状激光器有可能让多得多的波长以更紧密的间隔排布,而不必担心干扰。Solinide 的 CEO 兼联合创始人 Marcello Girardi 把实际极限说得很直白:对激光器阵列而言,四个波长已是解决好的问题,困难从八个开始,到 16 个时器件数量就会限制你。Quintessent 的 Steven Estrella 补充说,在当前磷化铟连续波 DFB 激光器供应短缺的情况下,减少所需激光器数量比以往更重要。

企业买家也在重新考虑推理在哪里运行。据 Data Center Knowledge 9 月 21 日引用,VMware 的《2026 私有云展望》显示,83% 的企业已经完成或计划把工作负载从公有云迁回,原因是安全、成本、合规和性能方面的顾虑。现代托管机房支持用风冷散热的 35 kW 机柜,以及可选液冷散热的 70 到 150 kW 机柜。涉密企业数据上的推理往往就落在这里。

这些都无法单独解决检索问题。但过去一周的方向是一致的:行业正把上下文、表示和身份当作工程变量,而不是需要调参的提示词。这比接上一个向量库更难,而它决定的正是智能体能否被信任去承担那份工作。

评论 0

资料来源

14
  1. 01AutoSynthData: Generating Training Data for Enterprise AgentsEN
  2. 02When More Data Is Not Enough: The Context-Sufficiency Frontier in Generative AI PersonalizationEN
  3. 03Enterprise Representation Simplification (ERS): Reducing Representational Complexity for Enterprise AIEN
  4. 04IAM for AI agents: A Practical Enterprise FrameworkEN
  5. 05Container Apps Express Reaches GA on a Newly Generally Available Sandbox LayerEN
  6. 06CoreWeave Targets Enterprises with Forge PlatformEN
  7. 07China's generative AI user base crosses 700 million, covering over half the populationEN
  8. 08The Role of Optical Frequency Comb Generators in AI Data CentersEN
  9. 09Enterprises Adopt Colocation for AI and Hybrid Cloud InitiativesEN
  10. 10Redefining enterprise intelligence with autonomous AIEN
  11. 11ShamAN-Q: Shampoo Augmented NanoQuant for Sub-1-bit LLM WeightsEN
  12. 12ReLaG: A Scalable Framework Generalizing Random Splits to Data with Latent RelationsEN
  13. 13Conformal Adversarial Generative EnsembleEN
  14. 14This startup helps food carts switch loud, dirty generators for batteriesEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

王雅琴

王雅琴

人工智能、模型与技术

王雅琴负责FLASH24的人工智能、模型与技术报道,覆盖科技、人工智能与模型、媒体与互联网领域。她习惯直接查阅技术文档、模型卡与官方博客,而非依赖新闻稿,对未经核实的参数和跑分数据一概不放行。每篇报道前,她会逐项核对基准测试结果,对照论文原文与开源代码,确认版本号、数据集和评测条件是否一致。她常联系开发者与研究人员求证细节,也盯着各大厂商的发布会和论文截稿日期,横向比较同类模型的实际表现。私下她自建服务、折腾家庭网络,这让她对部署成本和真实算力需求有直观判断。她的原则是:没有可复现来源的数字,不写进稿子。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。