从高分模型到真实临床：吕晗团队等从技术、人因与组织障碍角度对医学人工智能临床转化中的

研究团队以系统综述方式，筛选了2024–2025年发表于31种临床与转化医学期刊的247篇原始医学AI研究，目的是从近期、临床可见度较高的文献中，系统识别影响AI落地应用的关键障碍。纳入研究覆盖17个ICD-11临床分组，其中肿瘤领域最多（107篇，43.3%），作者机构主要来自中国、美国和英国。基于HOT（人—组织—技术匹配）框架，研究进一步归纳出五类与转化相关的证据指标：回顾性设计最常见（158篇，64.0%），说明多数研究仍停留在历史数据验证阶段；其次是人口学或地理局限（125篇，50.6%），提示模型跨人群推广能力不足；此外还包括缺乏独立外部验证（28.7%）、样本或数据不足（20.6%）以及标签噪声或依赖情境（13.4%）。整体上，这些问题并非个别现象，而是医学AI临床转化中的普遍瓶颈。

在技术维度上，论文指出，独立外部验证、样本或数据充足性，以及回顾性设计，分别对应模型证据链中的不同环节，不能被混为一谈。作者强调，真正的外部验证应检验模型能否跨机构、跨地域迁移，而不只是换一个数据集；样本是否充足也不能靠统一阈值判断，而应结合任务复杂度和研究目标；回顾性研究虽适合模型开发，却无法完整模拟“预测—干预—结局”的真实临床过程。

在人这一维度上，论文强调医学AI所依赖的“真实标签”并不总是稳定可靠的。部分研究中的诊断标签来自主观判断、行政编码、报告代理或模型生成结果，这些标签往往受具体临床情境影响，未必等同于真实疾病状态。这种本有不确定性的判断被直接固化为训练目标后，模型可能学到的是检测习惯、报告流程或治疗路径，而非疾病本身。

在组织维度上，论文指出，医学AI的风险不仅来自模型本身，也来自训练与验证数据所嵌入的结构性不平等。研究发现，125篇论文（50.6%）存在人口学或地理数据局限，意味着不少模型仍局限于单一国家、单一医疗系统或狭窄人群中开发和评估。作者强调，这并不自动等于模型有偏，但局部数据中形成的规律一旦被直接推广，AI就可能放大既有医疗差异，并将不平等以自动化方式固化进临床体系。

为检验分类规则的可重复性，研究者对247篇文献的五项指标进行了独立重复编码。结果显示，观察一致率为0.603–0.842，但Cohen’s kappa仅为0.207–0.466，提示即使有明确判定规则，不同评审者对文章证据的理解仍存在一定主观性。不过，两位评审者在五类问题的频率排序上高度一致，说明尽管绝对比例存在判断敏感性，整体结论仍具有较稳定的方向性。

针对前文识别出的问题，作者提出“临床管理监护”框架，主张将AI纳入由临床医生、技术团队、医疗机构与患者共同参与的分布式治理体系，而不是把责任压给单个医生或单个模型。论文进一步指出，高基准性能并不等于真实世界中的可靠性；只有通过部署前界定用途、部署中保留质疑与覆盖通道、部署后持续监测漂移与公平性，AI才可能真正成为减负工具而非新增风险源。在这一框架下，医生的角色也被重新定义为技术审计者、共情式翻译者和伦理守护者：既要判断模型输出是否符合生物学与临床情境，也要将概率性结果转化为符合患者价值的决策，并警惕算法扩大既有不平等。作者最终强调，未来医疗并非由AI取代医生，而是更依赖能够管理不确定性、责任与患者意义的临床专业判断。

论文原文刊载于Cell Press细胞出版社

旗下期刊Cell Reports Medicine，