跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

斯坦福审计发现44%的大模型结论已失效,实验室自动化资金持续流入

斯坦福研究人员Owen Queen和James Zou用20个模型检验了50条被广泛引用的大语言模型结论,发现44%已经失效。在22条带有预估失效期限的结论中,平均生命周期为15.7个月。研究结果于2026年11月3日发布。

人工智能与模型分析林晓雯发布: 2026年11月4日4 分钟阅读资料来源 18
斯坦福审计发现44%的大模型结论已失效,实验室自动化资金持续流入

购买自动化设备的实验室,被要求把工作流建立在这些模型之上,而它们有记录的行为可能在一年左右就发生变化。Queen和Zou检验的50条结论中,44%已失效,16%仍然成立,6%变得更强。采购时做的验证,未必能描述六个月后的系统。对买家来说,实际问题很具体:这条结论是在哪个模型版本上测的,什么时候测的。

哪些结论失效,失效有多快

两位研究者检验了50条被广泛引用的大语言模型结论,对照的是8家开发商在2024年7月至2026年9月间发布的20个模型。

研究还发现,另有34%的结论明显减弱。在22条带有预估失效期限的结论中,平均生命周期为15.7个月。失效随时间加速:一年后16%已失效,两年后这一数字升至39%。

推理类结论老化得最厉害。与推理相关的9条结论中有5条已失效,没有一条保持成立或变得更强。这份清单包括数出“strawberry”里的字母、在不熟悉的进制下做算术、在长上下文中丢失信息,以及用户提出质疑时就放弃正确答案。研究者怀疑这些错误都有一个“正确”结果,开发者因此有明确的训练目标。

关于偏好和倾向的结论寿命更长。在保持成立或变得更强的11条结论中,3条涉及模型充当评估者,3条涉及模型对用户的谄媚。社会偏见则有好有坏:偏左的政治倾向依然存在,性别刻板印象和内隐联想偏见有所减弱,而对非裔美国人英语使用者的偏见在趋势数据中方向发生了反转。

流入自动化实验室的资金

Opentrons Labworks表示已完成4000万美元E轮融资,由Avego领投,BroadOak Capital Partners参投。公司没有披露估值,也没有披露投资人获得的股份。The AI Insider于10月30日报道了这轮融资。

已装机量是它的卖点。Opentrons称已在80多个国家的实验室部署了超过11000台机器人,包括全球20大制药公司中的90%。公司成立于2014年,销售Flex平台,把机器人仪器与用于标准化实验室操作的软件配在一起。

公司表示,融资所得将用于AI驱动的实验执行、与第三方仪器和软件的更深整合,以及进入更多市场。其开放、由API驱动的架构意在接入现有的研究环境,而不是取代它们。

“数百万科学家每天把大量时间花在机器人就能做的手工工作上,”CEO James Atwood在融资公告中说。Avego管理合伙人James Flexner也这样描述这笔押注:“每一项AI驱动的发现,仍然必须在真实实验室里被验证”。

软件层正在走向开源

OpenScience是一个开源研究智能体,可作为桌面应用、浏览器工作区或终端命令运行,带有shell、Python和R内核。它附带连接ChEMBL、UniProt、PubMed和arXiv的连接器,以及十个面向NVIDIA BioNeMo NIM端点的自带密钥适配器。

项目自己的文档对局限说得很直白。文档称每一步都可见,用户在依赖某个科学结论之前,应检查来源、假设、代码和输出。BioNeMo适配器被标为实验性,需要用户自己的NVIDIA API密钥。

模型仍在哪些地方失败

编造参考文献说明了进展多么不均衡。在Walters和Wilder 2023年的一项研究中,GPT-3.5编造了55%的参考文献。在同样的提示下,GPT-6.1 Sol编造比例为0%,Claude Sonnet 5.5为1%。同样属于2026年模型的Qwen3.7-Flash,编造比例仍达69%。

两跳问题要求模型把它知道的两个事实合起来,仍是弱点。Claude Sonnet 5.5在约10%的情况下仍然失败,而这些情况下它单独回答两个问题都是对的;原始论文中ChatGPT的这一比例为43%。

选哪个模型和用哪一代模型同样重要。在2026年7月至9月发布的模型中,失效结论数量从DeepSeek V4 Pro的11条到GPT-6.1 Sol的30条不等。研究者发现,发布日期、提供商和模型规模都无法可靠预测这一分布。

预测所假设的前提

市场预测假设工具会持续改进。The Business Research Company预计,生命科学领域的AI市场将从2025年的359000万美元升至2026年的444000万美元,新闻稿称这相当于23.6%的复合年增长率。它预测到2030年将达到1043000万美元,复合年增长率为23.8%,并把AI驱动的实验室自动化列为驱动因素之一。

这一预测覆盖生命科学各环节的AI,从远程患者监测到药物发现,并不只是实验室机器人。

Queen和Zou得出的结论比这些预测更窄。他们认为,关于大语言模型的经验性结论,应当作为针对特定模型、特定时点的观察来呈现,而不是当作普遍真理。对一家以某款机器人做标准化的实验室来说,这意味着重新跑一遍验证,而不是继承别人的验证。

评论 0

资料来源

18
  1. 01Rapid LLM development is outrunning the research meant to explain it, study findsEN
  2. 02Opentrons Raises $40 Million Series E Led by Avego to Expand AI-Driven Laboratory AutomationEN
  3. 03Open Science: The open-source AI workbench for scientific researchEN
  4. 04Life Sciences Market for Artificial Intelligence Projected to Reach $10.43Bn by 2030EN
  5. 05Opentrons Announces $40M Series E Round to Standardize AI-Driven Science on Its RobotsEN
  6. 06Hanwha Q-Cells shifts focus to research and development in EuropeEN
  7. 07Android-Smartphones sichern Fotos jetzt automatisch auf Windows-PCsEN
  8. 08CyberKord raises €2.7M to automate IT and cybersecurity operations with AIEN
  9. 09Quantum Interconnects Link Two 120-Qubit Processors (IBM Research)EN
  10. 10Accelsius Supports NSF Data Center Efficiency Research at VillanovaEN
  11. 11Hyperion Research: Nearly 20% Growth in HPC and AI-for-Science Server Market, Dell Takes Lead from HPEEN
  12. 12Chinese automakers reportedly head to Beijing for talks on EU hybrid export quotasEN
  13. 13Avoiding an uncontrolled reentry; boost Hubble and keep the science – IsaacmanEN
  14. 14 On this day in space! Oct. 30, 1964: NASA's weird Lunar Landing Research Vehicle takes 1st test flight to help Apollo astronauts land on the moon EN
  15. 15Microsoft Research Focus – Edition #97EN
  16. 16AI acceleration of science – a personal reflection - Wellcome Sanger Institute BlogEN
  17. 17What Women in Indonesia and Malaysia Want From Research on Climate and HealthEN
  18. 18Claude helped plan risky bird flu research. What did the AI add?EN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。