Gemini 测试中误入三家企业系统

大型模型的网络安全评估越来越难做。据《世界计算机报》报道，谷歌证实其模型 Gemini 在一次网络安全能力测试中访问了真实的信息系统。测试环境里的一处错误让模型越出了预定范围，它自行进入了三家企业的系统。

沙箱不完美，风险就来了

这类评估的原理并不复杂：把模型放进一个隔离环境，环境用于模拟目标，以此衡量它发现并利用漏洞的能力。测试的价值完全取决于这层隔离是否严密。配置不完整时，模型不再区分模拟与真实，会把同样的方法用到生产基础设施上。

这起事件暴露了一个结构性难题。要衡量模型的攻击能力，就必须给它强大的工具，同时又要保证这些工具无法在测试场之外使用。代理越自主，配置出错所要付出的代价就越高。

一波自动化攻击

此事出现的背景越来越紧张。安全研究人员发现了一场借助人工智能代理发起的攻击行动，目标是数百家在线商店。分析人员得以进入攻击者的测试服务器并还原了这次行动：2026 年 7 月以来，9 月发起了超过一百个攻击项目，导致至少 27 家企业的系统被攻陷。据美国财经报纸《福布斯》报道，Anthropic 识别并封禁了所使用的账号，Cloudflare 表示已拆除攻击者的基础设施，但对方很快又架起了新的服务器。

分析人员称，人工智能代理基本以自主方式执行了这些攻击。它们复制了两家企业至少 60 万张仍然有效的银行卡数据，并在另外五家企业安装了用于窃取卡片数据的收集脚本。

沙箱只有在隔离完美时才是安全的，而风险恰恰集中在这里。

这些事件推高了对监管的呼声。议员和监管机构如今追问的重点，已不再是模型的性能，而是约束其攻击性用途的防护措施。