AI医学诊断:监管追着不断移动的证据基础跑
过去一年里最常被引用的两项医学AI结果指向相反方向。微软的MAI-DxO在304个NEJM复杂病例上达到85.5%的准确率,21名医生的成绩是20%。一项发表于JAMA Network Open的研究发现,主流模型在超过八成病例中未能完成早期鉴别诊断。监管机构如今必须同时为这两个数字写规则。

医学AI的监管规则正对着一个不断移动的靶子起草。同一类模型,可能一边被当作诊断助手出售,一边被当作基准测试冠军来宣传,一边又被当作隐私风险来审计,前后往往只隔几个月。
看看监管者不得不权衡的证据。据GeekWire报道,微软于2025年6月30日公布了其AI诊断编排器(MAI-DxO)。公司称,在取自《新英格兰医学杂志》的病例上,正确诊断率为85.5%。相比之下,来自美国和英国的21名经验丰富的医生成绩为20%。WIRED在2025年7月1日对同一实验的报道给出的数字是:工具准确率80%,医生20%。报道还提到,通过选择更便宜的检查,成本降低了20%。这两组数字都基于304个近期的NEJM病例,微软把这些病例组成了所谓的顺序诊断基准。
85.5%和80%之间的差距不是四舍五入的争论。监管者必须先把这类出入弄清楚,才能把一个阈值写进法律。
微软自己的说法相当谨慎。GeekWire指出,这款工具背后的研究论文尚未被科学期刊接收。公司表示,该工具还需要针对更常见的疾病做测试,还需要在安全性和性能上做临床验证,并在部署前获得监管批准。微软AI健康业务副总裁Bay Gross在领英帖子里称其为“概念验证”。微软AI首席执行官Mustafa Suleyman则没那么克制:“我们正朝着医学超级智能迈出一大步,”他在领英上写道。
医生不被允许使用工具
WIRED采访的独立研究人员提出了一个任何监管者都会立刻撞上的方法学问题。麻省理工学院的科学家、Layer Health联合创始人David Sontag说,这些发现应当谨慎看待。研究中的医生被要求不得使用额外工具,这可能无法反映真实诊疗。斯克里普斯研究所的Eric Topol称这份报告在处理复杂病例上令人印象深刻。他说,证明AI理论上能降低成本是新颖之处。两人都同意,下一步验证应当是一项临床试验,把系统与治疗真实患者的真实医生做比较。
这项试验还没有进行。据WIRED报道,微软尚未决定是否将该技术商业化。不过,一位高管表示,公司可以把它整合进Bing,帮助用户诊断疾病。
对任何起草面向患者规则的人来说,另一半情况更重要。2026年4月发表在JAMA Network Open上的研究用29个标准化临床病例摘要测试了21个主流现成AI模型。哈佛医学生Arya Rao领衔这项工作。在拿到完整医疗信息组合时,模型在最终诊断上表现不错,正确率91%。早期鉴别诊断在超过八成病例中失败。而临床医生恰恰是在这个阶段、在不确定中判断哪些病有可能、哪些可以排除。
“我们测试的每一个模型在绝大多数病例上都失败了,”Rao对The Register说。“那是最需要处理不确定性的阶段,也正是这些系统最薄弱的地方。”
Rao还对The Register说,论文中的失败并不意味着AI完全没答对。它只意味着系统没有给出完全正确的答案。按纯粹的答对比例计算,模型得分在63%到78%之间。这比标题里的失败率好看得多。等一个统计数字传到监管讨论的桌上时,这种细微差别往往已经消失了。
麻省总医院放射科医生、论文合著者Marc Succi对The Register说,最终诊断上的高成功率不应让人安心。“真正的临床推理从更早开始,那时模糊性最高,而这恰恰是它们最弱的地方,”他说。“即使你最终走到了正确答案,错误的鉴别诊断也可能导致治疗延误、带来并发症的不必要操作、高昂费用等等。”
隐私审计测错了东西
监管者纳入得更慢的第三条线索,是训练数据本身泄露了什么。德国研究人员在2026年6月24日星期三发表于《自然》的论文中报告,判别式医学AI模型容易受到成员推断攻击。这类查询旨在确定某个患者的记录是否出现在训练集中。据The Register报道,团队分析了七个医学AI数据集,涵盖图像、心电图记录和一般电子健康记录。他们发现,个体患者可以被识别出来,研究人员称之为“近乎完美的攻击成功率”。
这一发现与现行审计做法相悖。“成员推断攻击能对个体患者达到近乎完美的成功率,这一点并未被标准评估协议充分捕捉,因为该协议衡量的是跨记录汇总的攻击成功率,”研究人员写道。他们的结论是,AI隐私审计的报告标准需要改变。必要时应采用差分隐私框架。这类框架旨在为训练数据保持匿名提供数学保证。
代表性不足的患者比其他人更容易被暴露。论文指出,种族、保险状况、性别、所用的成像方案以及某些疾病状态,都可能成为让个体可被识别的离群特征。“总的来说,随着模型的训练队列变得更具体,成员推断攻击带来的隐私风险会变得更严重,”Moritz Knolle对The Register说。他领导慕尼黑工业大学医疗与医学AI教席,也是论文第一作者。他提出一种可能:某人出现在训练数据集中,这一事实会暴露他带有亨廷顿病之类的潜伏遗传病,也可能暴露他曾去过某家专科治疗诊所。
Knolle也清楚这种攻击的局限。攻击者需要拿到目标数据点,不过论文显示部分访问已经足够。这与先前的认识相反。研究使用的数据集是匿名的。“攻击者只需拿到某人的血检结果,或者这些结果的一部分,”就能推断其是否被纳入,他说。
这对规则意味着什么
对起草医学AI监管的人来说,由此产生三个实际问题。
- 基准测试不是临床证据。微软的85.5%和80%来自回顾性NEJM病例,且医生被禁止咨询同事或查阅资料。Sontag和Topol都对WIRED说,临床试验是下一个必要步骤。
- 标题准确率掩盖了失败模式。一个模型可以在最终诊断上达到91%,同时在超过80%的病例中未能完成早期鉴别诊断,正如Rao团队发现的那样。围绕单一准确率数字写出的规则,会恰好漏掉研究认为伤害产生的那个阶段。
- 隐私审计测错了单位。按《自然》论文,当前标准的汇总攻击成功率,无法反映针对个体的近乎完美成功率。
还有一个问题是谁在做测试。微软搭建了基准,病例也是微软挑选的。公布之时,论文尚未通过同行评审。JAMA Network Open的研究测试的是现成模型,没有厂商参与,结果差得多。《自然》的隐私论文测试了七个数据集,发现了一个审计缺口。
这些都不意味着医学AI无法监管。它意味着交到监管者手里的数字都附带出处。出处和数字本身一样重要。
Knolle说出的目标很克制。“我希望医学AI界开始认真对待隐私风险,并在必要的情况下使用风险缓解技术,”他对The Register说。他也指出,许多成功的成员推断攻击只代表轻微甚至可忽略的隐私侵害。这种情况适用于模型在包含健康人和病人的大型普通人群上训练。风险随队列的狭窄程度上升。在医学里,这往往意味着最病重、最罕见的患者。
Suleyman说过,公司将在接下来几年里在真实世界中验证这些系统。任何严肃的规则制定,最终要评估的将是这项工作,而不是基准测试。
资料来源
4- 01Medical diagnosis AIs can be tricked into telling whose data trained themEN
- 02Microsoft AI tool outperforms doctors in diagnosing complex medical casesEN
- 03Microsoft Says Its New AI System Diagnosed Patients 4 Times More Accurately Than Human DoctorsEN
- 04LLMs fail in 8 out of 10 early differential diagnosis casesEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。