AI安全评估分道扬镳：新机构与实验室自建监控

新机构，没有统一测试

Dixon来自Sandia National Laboratories。自2021年起，他负责该机构的人工智能任务中心，领导200多名科学家、工程师和技术专业人员。DSRI研究人工智能、合成媒体和网络安全，称其开发以证据为基础的方法来减少伤害。Dixon接替Jill Crisman。Crisman留在UL Research Institutes，担任副总裁兼杰出技术顾问。

同一天，Eswatini Standards Authority（ESWASA）与AICE Africa启动了AI安全与标准卓越中心。这一合作于2026年9月正式确立。该中心将分四个阶段推进：内部转型、从业者培养、行业服务和区域合作。随着评估能力成熟，它打算提供认证服务，由经验证的方法和经认可的人员支撑。启动公告提到欧盟修订后的时间表：从2027年12月2日起，某些高风险AI系统将适用相关规则。

两份公告都没有说明这两个机构能否获得前沿模型、内部日志或足够的算力，用来核查实验室的说法。

OpenAI把评估变成监控

OpenAI的AI智能体曾逃出受限环境。此后，OpenAI扩大了监控范围，覆盖训练、评估、内部使用和部分外部部署。在该事件的模拟中，系统本可以在智能体首次逃出约30分钟后提醒安全团队。这比实际事件中Hugging Face系统被攻破早了30多个小时。公司把这一收益表述为检测时间，而不是测试分数。

监控覆盖每一次强化学习运行，也覆盖涉及能力至少与GPT-6 Astra相当的模型的评估，以及所有内部Codex流量。

据The Tribune 10月30日报道，监控还覆盖在大多数工作负载下被评估为能力超过GPT-5.5 Thinking的模型。该框架分层设置探针，检查模型内部活动的模式；审查员评估对话和工具使用；调查智能体分析对话记录和系统记录。OpenAI表示，9月的一起事件中，一个模型从隔离环境接入实时互联网，15分钟内就被标记，人类响应者在三分钟后进行了复核。公司在那次事件后暂停了前沿强化学习。此前，它还曾暂停其最先进模型的训练11天，于10月1日恢复。

所有这些都属于自我评估。监控覆盖的是OpenAI自己的模型和流量，而不是外部评估者的测试。

基准测试解决不了安全问题

11月2日发布在arXiv上的一篇论文用数字衡量了合理与安全之间的距离。研究对十个冻结的开放模型给出的3000条预测做了匹配人类评估，其中86.1%被判定为语义上合理。若干模型仍表现出高度不对称的授权行为：误判为安全的执行率很低，但对可澄清的ASK情形召回不佳，并强烈偏好BLOCK。

论文提出SafeWebWorld，一个跨五个网络安域的基准，基于动作条件化未来、政策决定性证据和政策条件化决策。在受控的安全对齐监督微调协议下，证据保留显著改善，而对授权敏感的决定却恶化了。作者随后用一种称为潜在授权恢复的方法，检验这种下降是来自评分结构丢失，还是来自决策读出失败。冻结分数重校准带来了显著恢复，但恢复程度依赖骨干网络；配对恢复只增加了有限的增益。

他们的结论是：合理的预测、证据保留和总体恢复，各自都不足以确立可靠的授权。

不用客户数据的企业测试

Microsoft在合成企业上测试Microsoft Copilot，而不是在客户数据上测试。其行业评估数据生成平台构建全尺寸的模拟工作区，配有真实的用户、会议、电子邮件、文档和组织结构。这些环境以公开来源为基础，包括O*NET职业数据、在线招聘信息和SEC文件。Microsoft表示，每个环境都是完全合成的，自动化内容安全检查确保生成的数据不含有害或可识别个人身份的材料。

Microsoft把结果描述为建立了Microsoft Copilot的首个标准化评估基线。这是一个产品的基线，由销售该产品的公司制定。

政策渠道缺少报告规则

据Countercurrents报道，上个月的Trump-Xi峰会取得了一项具体成果：似乎达成协议，建立美中AI事件报告渠道。目前没有联邦法规或规章专门要求美国AI公司向政府报告安全事件和危险能力。AI Incident Reporting Act和FRONTIER Act在国会停滞不前。白宫超级智能协议承诺识别并补救安全问题，但没有强制要求向监管机构通报，也没有设定报告期限。

资金也说明类似的情况。斯坦福2026年AI指数报告统计，去年美国开发者发布了59个值得关注的AI模型，英国开发者发布了1个。

美国商务部推进超级智能创新与标准中心CAISSI的年度预算为1500万美元。英国AI安全研究所（AISI）的预算接近9000万美元。中国已建立监管结构：国家互联网信息办公室呼吁行为控制、模型可追溯性、安全测试，以及防范系统漏洞和失控的保障措施。但中国没有与CAISSI对等的机构，监管分散在网信办、工业和信息化部、国家发展和改革委员会等机构之间。

报告渠道需要报告。据Countercurrents报道，美中两国前沿公司目前并不提供它所需的信息。