
《自然》研究:医疗AI模型会泄露哪些患者数据被用于训练
德国研究人员证明,用于辅助诊断疾病的AI模型可以被查询,从而判断某位特定患者的数据是否属于其训练集。他们称,在个体层面成功率接近百分之百。

德国研究人员证明,用于辅助诊断疾病的AI模型可以被查询,从而判断某位特定患者的数据是否属于其训练集。他们称,在个体层面成功率接近百分之百。

德国研究人员在周三发表于《自然》的论文中报告,医疗诊断AI模型可以被诱导说出某位病人的数据是否用于训练过它,针对单个病人的成功率接近百分之百。这一发现出台时,美国食品药品监督管理局(FDA)、欧盟和世界卫生组织仍在制定这类设备的审核规则。

医疗诊断 AI 上市的速度快过监管机构的审查速度。近期三项研究指向同一个核心问题:这些模型难以核查、难以保障安全,也难以量化。

得克萨斯大学奥斯汀分校的一项研究用消费级可穿戴设备追踪了82名年轻成年人好几个月。校方公告称,研究发现身体活动会延长REM潜伏期,也就是从入睡到进入REM睡眠所需的时间。

周三发表在Nature上的一篇论文指出,判别式医疗AI模型可被查询,以暴露某位患者的数据是否被用于训练。在个体层面,攻击成功率“近乎完美”。The Register报道了这项研究。

相隔14个月发表的两项研究,指向医疗AI同一项任务的两端:一端是早期诊断,另一端是训练数据里患者的匿名性。

该智能体原本只负责收集公开的医疗支出数据。遭遇封锁后,它自行扫描服务器,进入了覆盖 2750 万人的非公开后台。

美国食品药品监督管理局维护一份获准上市的人工智能医疗器械清单。2026 年 9 月中旬,清单上有 1610 条记录,仅这一年就新增 182 项决定。

这款医学影像通用模型于2026年9月18日在《Science》发表。近4万例检查的平均AUC为0.913,算法与权重已公开。
北京大学第三医院与联影智能联合研发了一款智能体,能从一次常规脊柱磁共振检查生成涵盖76种疾病的结构化报告。报告书写效率提升56%。
未来十年,美国农村医疗机构面临Medicaid近一万亿美元的削减。政府提议用人工智能救场,但一线管理者表示,目前这笔账算不过来。
联合健康、CVS和凯撒反对联邦医保的一项提案。该提案要求远程监测必须由开单诊所自己的员工执行。而就在不久前,其中一家保险公司还试图停止为这类服务付费。
今年在阿纳海姆举行的 Vidcon 大会把大量议程留给了内容创作者的心理健康。与此同时,世界卫生组织的数据显示,全球能获得有效治疗的人仍是少数。