斯坦福审计发现44%的大模型结论已失效,实验室自动化资金持续流入
斯坦福研究人员Owen Queen和James Zou用20个模型检验了50条被广泛引用的大语言模型结论,发现44%已经失效。在22条带有预估失效期限的结论中,平均生命周期为15.7个月。研究结果于2026年11月3日发布。

购买自动化设备的实验室,被要求把工作流建立在这些模型之上,而它们有记录的行为可能在一年左右就发生变化。Queen和Zou检验的50条结论中,44%已失效,16%仍然成立,6%变得更强。采购时做的验证,未必能描述六个月后的系统。对买家来说,实际问题很具体:这条结论是在哪个模型版本上测的,什么时候测的。
哪些结论失效,失效有多快
两位研究者检验了50条被广泛引用的大语言模型结论,对照的是8家开发商在2024年7月至2026年9月间发布的20个模型。
研究还发现,另有34%的结论明显减弱。在22条带有预估失效期限的结论中,平均生命周期为15.7个月。失效随时间加速:一年后16%已失效,两年后这一数字升至39%。
推理类结论老化得最厉害。与推理相关的9条结论中有5条已失效,没有一条保持成立或变得更强。这份清单包括数出“strawberry”里的字母、在不熟悉的进制下做算术、在长上下文中丢失信息,以及用户提出质疑时就放弃正确答案。研究者怀疑这些错误都有一个“正确”结果,开发者因此有明确的训练目标。
关于偏好和倾向的结论寿命更长。在保持成立或变得更强的11条结论中,3条涉及模型充当评估者,3条涉及模型对用户的谄媚。社会偏见则有好有坏:偏左的政治倾向依然存在,性别刻板印象和内隐联想偏见有所减弱,而对非裔美国人英语使用者的偏见在趋势数据中方向发生了反转。
流入自动化实验室的资金
Opentrons Labworks表示已完成4000万美元E轮融资,由Avego领投,BroadOak Capital Partners参投。公司没有披露估值,也没有披露投资人获得的股份。The AI Insider于10月30日报道了这轮融资。
已装机量是它的卖点。Opentrons称已在80多个国家的实验室部署了超过11000台机器人,包括全球20大制药公司中的90%。公司成立于2014年,销售Flex平台,把机器人仪器与用于标准化实验室操作的软件配在一起。
公司表示,融资所得将用于AI驱动的实验执行、与第三方仪器和软件的更深整合,以及进入更多市场。其开放、由API驱动的架构意在接入现有的研究环境,而不是取代它们。
“数百万科学家每天把大量时间花在机器人就能做的手工工作上,”CEO James Atwood在融资公告中说。Avego管理合伙人James Flexner也这样描述这笔押注:“每一项AI驱动的发现,仍然必须在真实实验室里被验证”。
软件层正在走向开源
OpenScience是一个开源研究智能体,可作为桌面应用、浏览器工作区或终端命令运行,带有shell、Python和R内核。它附带连接ChEMBL、UniProt、PubMed和arXiv的连接器,以及十个面向NVIDIA BioNeMo NIM端点的自带密钥适配器。
项目自己的文档对局限说得很直白。文档称每一步都可见,用户在依赖某个科学结论之前,应检查来源、假设、代码和输出。BioNeMo适配器被标为实验性,需要用户自己的NVIDIA API密钥。
模型仍在哪些地方失败
编造参考文献说明了进展多么不均衡。在Walters和Wilder 2023年的一项研究中,GPT-3.5编造了55%的参考文献。在同样的提示下,GPT-6.1 Sol编造比例为0%,Claude Sonnet 5.5为1%。同样属于2026年模型的Qwen3.7-Flash,编造比例仍达69%。
两跳问题要求模型把它知道的两个事实合起来,仍是弱点。Claude Sonnet 5.5在约10%的情况下仍然失败,而这些情况下它单独回答两个问题都是对的;原始论文中ChatGPT的这一比例为43%。
选哪个模型和用哪一代模型同样重要。在2026年7月至9月发布的模型中,失效结论数量从DeepSeek V4 Pro的11条到GPT-6.1 Sol的30条不等。研究者发现,发布日期、提供商和模型规模都无法可靠预测这一分布。
预测所假设的前提
市场预测假设工具会持续改进。The Business Research Company预计,生命科学领域的AI市场将从2025年的359000万美元升至2026年的444000万美元,新闻稿称这相当于23.6%的复合年增长率。它预测到2030年将达到1043000万美元,复合年增长率为23.8%,并把AI驱动的实验室自动化列为驱动因素之一。
这一预测覆盖生命科学各环节的AI,从远程患者监测到药物发现,并不只是实验室机器人。
Queen和Zou得出的结论比这些预测更窄。他们认为,关于大语言模型的经验性结论,应当作为针对特定模型、特定时点的观察来呈现,而不是当作普遍真理。对一家以某款机器人做标准化的实验室来说,这意味着重新跑一遍验证,而不是继承别人的验证。
资料来源
18- 01Rapid LLM development is outrunning the research meant to explain it, study findsEN
- 02Opentrons Raises $40 Million Series E Led by Avego to Expand AI-Driven Laboratory AutomationEN
- 03Open Science: The open-source AI workbench for scientific researchEN
- 04Life Sciences Market for Artificial Intelligence Projected to Reach $10.43Bn by 2030EN
- 05Opentrons Announces $40M Series E Round to Standardize AI-Driven Science on Its RobotsEN
- 06Hanwha Q-Cells shifts focus to research and development in EuropeEN
- 07Android-Smartphones sichern Fotos jetzt automatisch auf Windows-PCsEN
- 08CyberKord raises €2.7M to automate IT and cybersecurity operations with AIEN
- 09Quantum Interconnects Link Two 120-Qubit Processors (IBM Research)EN
- 10Accelsius Supports NSF Data Center Efficiency Research at VillanovaEN
- 11Hyperion Research: Nearly 20% Growth in HPC and AI-for-Science Server Market, Dell Takes Lead from HPEEN
- 12Chinese automakers reportedly head to Beijing for talks on EU hybrid export quotasEN
- 13Avoiding an uncontrolled reentry; boost Hubble and keep the science – IsaacmanEN
- 14 On this day in space! Oct. 30, 1964: NASA's weird Lunar Landing Research Vehicle takes 1st test flight to help Apollo astronauts land on the moon EN
- 15Microsoft Research Focus – Edition #97EN
- 16AI acceleration of science – a personal reflection - Wellcome Sanger Institute BlogEN
- 17What Women in Indonesia and Malaysia Want From Research on Climate and HealthEN
- 18Claude helped plan risky bird flu research. What did the AI add?EN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。