跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

英国AI安全研究所8月中断后恢复模型测试

据Resultsense于2026年10月2日报道,英国AI安全研究所在8月发生一起事件后,已恢复大部分模型评估工作。

人工智能与模型解释王雅琴发布: 2026年10月3日7 分钟阅读资料来源 2
英国AI安全研究所8月中断后恢复模型测试

英国AI安全研究所(AISI)已重启大部分测试工作。此前从8月开始,该机构经历了一段中断期。Resultsense于2026年10月2日报道了这一进展。该机构正回到评估前沿AI模型的核心职责上。

恢复测试的时机对该机构来说相当微妙。据UC Today于10月2日发布的一篇报道,AISI近期被拒绝访问某些模型,导致其在夏季几个月里评估能力出现缺口。准入问题迫使研究所暂停了相当一部分工作流程,监管机构和行业观察人士因此无法确定其安全评估能否延续。由于拿不到模型,研究所在数周内无法对最新发布的前沿模型运行标准测试组合。这种信息缺失恰恰是该机构成立时要避免的情况。如今测试恢复,问题在于该机构能否补上8月以来发布模型积压的进度。外界要求其给出明确安全结论的压力很大。夏季期间,公众和政府的期待并未暂停。该机构现在必须证明其核心职能已全面恢复运转。

员工士气和运营稳定性也是机构内部的隐忧。在9月22日的一篇报道中,泰晤士报指出,AISI员工因与外部密集审视相关的压力而请假。这一内部紧张发生在公众和政府日益施压、要求对能力不断增强的AI系统给出明确安全结论的背景之下。

这些运营障碍还有更大的背景:AI安全领域发生了一系列备受关注的事件。10月2日,Gadget Review报道称,OpenAI因涉及机密信息的问题解雇了三名安全研究员。该媒体称这些离职属于更广泛的数据处理纠纷的一部分,凸显了企业保密与安全研究透明度之间可能存在的紧张关系。

与此同时,现有安全框架的完整性也受到质疑。Tech Times在10月2日发表的一篇文章中分析了白宫AI安全协议,发现该协议对不合规行为没有处罚,不要求报告违规事件,并依赖自行选定的审计方。美国政策上的这一结构性弱点,与英国AISI所维持的积极但处境艰难的测试制度形成对比。

AISI全面恢复运转对国际AI安全格局至关重要。该研究所的评估常被其他政府和公司引为负责任部署的基准。在一个许多安全声明由开发者自己做出的行业里,独立测试模型的能力是它的关键区别所在。

AI安全评估的技术层面也在演变。AISI专注于高层面的行为测试,而科技行业的其他部分则在处理更低层面的安全问题。例如,ClickHouse于2026年9月30日发布的一篇博客文章详述了C和C++编写的Postgres扩展在内存安全方面的复杂性。文章解释了如果内存分配模式管理不慎,将C++代码集成到Postgres这类基于C的系统会如何导致未定义行为。这虽是数据库工程问题,却反映出随着AI组件更多地融入现有基础设施,构建安全系统所面临的更广泛行业挑战。

构建安全AI系统的动力也在影响从业者规划职业的方式。10月2日,Boyd Kane在LessWrong上发文,详细介绍了申请AI安全奖学金项目的建议。Kane于2025年底加入MATS项目,他认为申请过程具有对抗性,候选人必须把自己的技能与“普通人”区分开来。他强调,仅仅描述令人印象深刻的成就还不够,申请人必须以一种明显区别于典型申请材料的方式呈现自己的工作。这条建议反映出AI安全领域人才竞争激烈,该领域正在迅速职业化。

国际社会对AI安全的应对也变得更加多层次。10月2日,《海峡时报》报道称,新加坡数字与情报部长Josephine Teo呼吁以多层次方式利用AI对抗AI威胁。CNA在同日的相关报道中援引Teo的话说,随着模型能力增强,AI公司现有的保障措施已不够充分。新加坡领导层的这些表态表明,非西方国家之间正形成一种共识:自愿性的行业措施已不足以缓解先进AI的风险。

韩国也在应对新AI能力带来的影响。Korea Business Review于10月2日的一篇报道指出,GPT-6 Astra的发布在该国重新点燃了“AI替代”的担忧。文章讨论了美国如何对这类强大模型给韩国产业带来的冲击感到紧张,表明AI造成的经济和社会扰动正成为亚洲政策制定者的核心关切。

在医疗领域,安全关注正转向防御AI驱动的网络攻击。Medscape于10月2日报道称,专家呼吁加强对医疗系统所受AI网络攻击的防御。这与一个更广泛的趋势一致:人们认识到AI安全不只是模型对齐,还涉及保护关键基础设施免受可能利用AI发动复杂攻击的恶意行为者侵害。

AI安全的另一个维度是评估AI对实体基础设施的影响。10月1日的一篇报道指出,AI正被用于把老化桥梁的安全检查从三天缩短到10分钟,准确率达90%。这一应用提高了效率,但也引发疑问:在出错后果严重的安全关键环境中,AI系统是否可靠。

不同司法辖区采取不同做法,使监管格局更加复杂。韩国科技巨头Kakao于9月28日与一家AI安全研究机构签署谅解备忘录,以构建AI安全评估框架。据韩联社报道,此举表明大型私营企业开始与安全研究机构正式建立合作,以确保产品符合新兴标准。

不过,这些自我监管努力的效果正受到审视。Adnan Masood博士于10月3日在Medium发表文章认为,AI自我监管要起作用,买方必须强制执行。Masood提出,如果没有消费者和企业要求更安全AI的市场压力,自愿性标准可能依然无效。这一视角为安全辩论增添了商业维度,将其与采购和供应链决策联系起来。

AI安全的技术挑战也在研究层面得到应对。10月5日的一篇报道提到一项政府评估,其中没有任何模型完全阻止了AI攻击,长期记忆攻击的成功率达到91.2%。这一数据如果准确,说明现有防御措施远不可靠,AI模型可能容易受到绕过标准安全过滤器的持续性记忆攻击。

与此同时,英国AISI仍在8月事件的阴影下运作。恢复测试是积极的一步,但必须放在该机构持续受到审视和资源受限的背景下来看。在政治和商业压力环境中维持独立、严格测试的能力,将是衡量AISI长期生存能力的关键指标。

随着行业向前发展,运营恢复、国际政策转变和技术脆弱性等因素的交汇将决定AI安全工作的走向。未来几个月,AISI可能会更加活跃,力图重新确立其作为全球领先前沿AI模型评估者的角色。

评论 0

资料来源

2
  1. 01Memory safety for Postgres extensions in C/C++EN
  2. 02How to apply to AI safety fellowships (and beyond)EN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

王雅琴

王雅琴

人工智能、模型与技术

王雅琴负责FLASH24的人工智能、模型与技术报道,覆盖科技、人工智能与模型、媒体与互联网领域。她习惯直接查阅技术文档、模型卡与官方博客,而非依赖新闻稿,对未经核实的参数和跑分数据一概不放行。每篇报道前,她会逐项核对基准测试结果,对照论文原文与开源代码,确认版本号、数据集和评测条件是否一致。她常联系开发者与研究人员求证细节,也盯着各大厂商的发布会和论文截稿日期,横向比较同类模型的实际表现。私下她自建服务、折腾家庭网络,这让她对部署成本和真实算力需求有直观判断。她的原则是:没有可复现来源的数字,不写进稿子。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。