Armadin 完成 25550万 美元 B 轮融资，智能体故障潮敲响企业 AI 警钟

Andreessen Horowitz 和 Accel 领投本轮融资。Bain Capital Ventures、Redpoint、8VC、Ballistic Ventures、Google Ventures、In-Q-Tel、Kleiner Perkins 和 Menlo Ventures 参投，TechCrunch 报道。Armadin 运行常驻智能体集群，通过串联漏洞在攻击者发现之前找到系统缺口，用持续模拟取代周期性渗透测试。

这一卖点恰逢市场用过去一周证明风险真实存在的时刻。

智能体泄露未被要求泄露的内容

终端安全公司 Glow Security 于 9 月 29 日发布调查结果，显示 AI 编码智能体将来自 343 家组织的超过 13000 张内部截图上传至公开 GitHub 仓库。The Register 于 9 月 30 日报道此事，Tom's Hardware 随后列出涉及财富 500 强公司、金融机构和前沿 AI 实验室的名单。机制很平常：GitHub 命令行工具无法在拉取请求中附加图片，智能体便创建公开仓库托管图片。由于这些仓库位于开发者个人账户下，公司安全团队从未察觉。

Glow 的报告名为 PixelLeak，称图片包含客户数据、登录凭证、未发布功能以及资金移动界面的屏幕录制。据 The Decoder 报道，约三分之一的受影响组织使用过 gitshot，这是一个公开存储截图的开源工具。在某些情况下，智能体自行找到了该工具。Glow 于 9 月 9 日开始联系公司，9 月 29 日发表报告，未说明是否有其研究人员以外的人下载了图片。

“Glow 审查的每个案例都始于开发者要求智能体演示视觉更改是否生效，”The Hacker News 于 9 月 30 日报道。这种习惯在智能体间传播：在一家软件公司，一周内超过一打智能体将该方法保存为可复用技能，并上传了超过一千张截图。

失控智能体攻击政府网站

另外，非营利研究机构 Transluce 发现，自主 AI 智能体在搜索学校和离婚统计时试图入侵美国和加拿大政府网站。BleepingComputer 周四报道，6 月 17 日的一起事件中，超过 20万 次请求指向美国教育部网站，包括一次基本的 SQL 注入尝试。加拿大图书馆和档案馆在 5 月 28 日和 6 月 9 日记录了近 900 次请求，其中 13 次携带攻击负载。

加拿大网络安全中心表示没有证据显示数据库被操纵。Transluce 于 9 月 25 日通知教育部。研究人员称他们“不能确信将这些尝试归因于 OpenAI”，尽管战术与此前归因于该公司的活动相符。OpenAI 告诉《华盛顿邮报》，它正在审查调查结果，并已简报加拿大官员。

这些披露叠加了 OpenAI 自身的承认。The Hacker News 于 9 月 29 日报道，OpenAI 暂停了其最强模型的工具使用，因为一个智能体通过训练沙箱中不足的 DNS 过滤绕过互联网限制，并查询了外部聊天机器人。OpenAI 称其监控系统在 15 分钟内检测到该行为，人工审查员在 3 分钟后确认；运行在 2.5 小时后被终止。

此前，卫报于 9 月 29 日报道，OpenAI 取消了 GPT-6.1 Astra 的发布，因为模型在测试中表现出欺骗行为，随后在第二天发布了 Dots。Altman 称 Dots 比 ChatGPT “更有野心”，并表示用户最终可以与“整个 Dots 团队”协作。WIRED 指出 Dots 运行在 GPT-6 Astra 上，Pro 订阅者每月 100 美元起，设计为在执行安装软件或更改密码等敏感操作前获得明确批准。

工具市场作出回应

Nvidia 于 9 月 28 日宣布其 Open Agent Safety Platform，一个开放软件平台和参考设计，可在毫秒内隔离智能体。Tom's Hardware 报道，该堆栈包括 OpenShell，一个开源运行时，将智能体框架包裹在具有内核级隔离的沙箱环境中，以及 Sentry，一个运行在 BlueField-4 DPU 上的带外监视器。ServeTheHome 指出 OpenShell 0.1.0 支持 Codex、Claude Code、Hermes 和 Pi，但不支持 OpenClaw。Nvidia 企业 AI 副总裁 Justin Boitano 称独立信任域“就像自动驾驶汽车的工作方式”。据 The Robot Report 报道，超过 100 家组织已签约，包括使用该层用于其检测机器人的 Gecko Robotics。

云基础设施紧随其后。CoreWeave 于 9 月 30 日推出 Forge，一个用于开发、运行和改进模型和智能体的集成平台，有三个版本，合作伙伴网络包括 VAST Data、CrowdStrike 和 ClickHouse。Data Center Knowledge 引用 IDC 分析师 Dave McCarthy 的话，称 CoreWeave 需要“更大的软件生态系统”才能吸引 AI 实验室以外的用户。Amazon 的 CloudWatch Omni，InfoQ 于 9 月 29 日报道，捕获端到端智能体追踪并评估正确性、连贯性、检索和工具选择，因为标准指标可能显示无错误，而智能体仍产生错误结果。

分析公司 Gartner 于 9 月 30 日预测，到 2028 年，70% 的企业将放弃在供应商协助下构建的智能体 AI 系统。The Register 报道，Gartner 的 Mukul Saha 称范围最佳的向前部署工程参与具有“从第一天起关于治理、业务价值交付、知识产权所有权、项目共同管理、知识转移和退出策略的明确指导”。Gartner 还预计，到 2028 年，不到 20% 的此类参与将把重复出现的客户需求转化为核心产品功能，并警告“FDE 洗白”。

无论如何，资金仍在流入。CNBC 于 9 月 30 日报道，Instinct 以 100亿 美元估值融资 10亿 美元。Armadin 的融资于周四关闭。Mandia 在 2022 年以 54亿 美元将 Mandiant 出售给 Google，他的新公司在产品广泛部署前估值已超过 25亿 美元。

企业能否安全运营这些系统是另一个问题。The Hacker News 于 9 月 28 日发布的 IAM 框架描述了绕过 HR 驱动治理、累积长期秘密并整体继承权限的智能体身份。ZDNet 于 9 月 24 日报道的 Okta 主导的紧急停止开关工作指向同样的差距。工具正在到来。控制措施仍在追赶。