欢迎访问智慧医疗网 | 网站首页
 
当前位置:首页 > 资讯 > 观点

医学顶刊首发中国大模型深度评论,清华黄天荫领衔探讨医疗AI安全落地之路

发布时间:2025-05-07 来源:清华大学医学院 浏览量: 字号:【加大】【减小】 手机上观看

打开手机扫描二维码
即可在手机端查看

DeepSeek在中国的实践,本质是一场关于“技术普惠”与“安全底线”的全球预演。

4月,国际顶级医学期刊JAMA首次发表了关于中国自主研发大模型DeepSeek在医疗领域应用的观点文章。

微信图片_20250507154221.png

论文网站截图

文章由清华大学副教务长、医学院院长黄天荫教授领衔,联合清华大学医学院曾典博士、秦义明博士,以及上海交通大学计算机科学与工程系盛斌教授共同撰写。


该文章深入分析了DeepSeek在中国医疗场景中的迅速应用,探讨了“低成本开源AI创新”与“多元医疗需求”交汇下催生的技术热潮,并关注由此带来的监管体系建设滞后问题。


作者指出,以DeepSeek为代表的国产大模型在医疗领域的探索,标志着全球数字医疗转型进程中的一项重要里程碑。文章强调,中国在医疗AI领域展现出的创新速度,正在促使全球重新思考如何在加速创新的同时,确保医疗AI的安全落地与可持续发展。


文章围绕医疗领域中人工智能的安全应用,呼吁加快建立多维度、体系化的治理框架,强调在推动技术创新的同时,必须同步提升法律规范、伦理审查与风险管理能力,确保AI技术在医疗实践中实现安全、可靠、可控的落地。这一倡议不仅回应了国家对人工智能发展提出的新要求,也为全球医疗AI治理探索提供了中国经验与中国方案。



国产大模型在医疗场景中的爆发式应用



文章指出,以DeepSeek为代表的中国大模型在医疗领域的应用潜力正呈现爆发式增长,这主要归功于中国在人工智能领域的创新,以及对政策和技术双重壁垒的突破。过去,ChatGPT等海外大模型受限于跨境政策和技术环境的制约,而以DeepSeek为代表的国产大模型则在知识储备和推理能力方面不断取得进步。特别是这些国产大模型基于开源协议(允许免费商用)以及本地化部署的创新应用范式,成功填补了国内医院在私有化部署大模型方面的长期缺口,尤其能够满足中国及其他中低收入国家和地区的基层医院对低成本解决方案的迫切需求。


文章提到,在医疗领域应用AI大模型时,应高度警惕因社会压力而产生的技术焦虑。比如互联网上关于“AI已达顶级医院水平”的热议引发了“技术落后恐惧症”,促使部分医疗机构在缺乏充分评估的情况下匆忙部署AI系统。此外,中国还面临老龄化与数字化叠加的独特挑战。60岁以上人口已超过20%,而这部分人群的智能手机普及率高达80%,形成了“银发群体依赖AI健康建议”的特殊场景。这一趋势进一步放大了模型“幻觉”(如错误用药指导)所带来的潜在危害,甚至于出现患者持AI建议质疑医生诊断的案例。


文章警示,当AI创新技术以“近零成本”迅速渗透至大量基层医院时,若缺乏成熟的临床安全评估体系,容易导致“技术采用曲线”与“监管成熟度曲线”的危险错位,加剧潜在风险。



破局之道:构建三位一体的人机共治新框架



针对上述新情况和新问题,文章提出,应从“单一技术评估”转向“生态系统治理”,构建以技术-临床-政策三位一体的人机共治医疗AI安全框架:将医疗AI应用分为“临床决策支持”、“患者管理”、“科研教学”三大领域,并针对性设计评估指标,借鉴国际MedHELM临床任务细分法,避免“一刀切”的监管方式。


文章特别提到,应探索建立以“多方协同共治网络”为核心的医疗AI治理新模式,推动产学研医各方深度联动。例如,AI企业需主动开放模型训练数据清单,提升技术透明度;医院需建立AI临床效果日志,确保应用留痕可溯;监管部门应动态更新医疗大模型白名单,形成“技术透明—使用留痕—风险预警”的迭代闭环。



中国经验:全球医疗AI治理的重要前沿探索



文章认为,DeepSeek在中国的实践,本质是一场关于“技术普惠”与“安全底线”的全球预演。当开源技术打破了“AI 贵族化”壁垒,当医疗场景的复杂性又倒逼技术加速迭代,中国案例清晰地揭示:医疗大模型的安全治理,不能停留在“避免明显错误”的初级阶段,而必须构建涵盖“技术可靠性、临床适配性、社会接受度”等多维度的综合评估体系。


正如文章所强调,唯有让“创新速度”与“治理精度”形成良性共振,才能真正实现希波克拉底誓言与算法代码的深度融合。这不仅是中国医疗AI发展的必答题,也是全球数字医疗转型的共同挑战。



展望未来:以共建全球治理为目标



以DeepSeek为代表的国产大模型在医疗领域的应用实践,是全球数字医疗转型进程中的重要探索。这一实践不仅展现了技术创新为医疗行业带来的巨大潜力,也提醒全球医疗界,在快速发展的过程中,必须同步构建科学、透明、可持续的治理体系。中国经验表明,只有在技术可靠性、临床适配性与社会接受度之间实现动态平衡,医疗AI技术才能真正成为提升医疗服务质量、保障人民健康的有力工具,助推全球医疗事业的可持续发展。


文章撰写过程得到了新加坡国立大学医学院覃宇宗教授、英国UCL的Pearse Keane教授以及清华万科公共卫生学院纪思翰教授等学者的支持帮助。此次在JAMA发表的观点文章,不仅是对中国医疗AI应用现状的总结,也为全球医疗AI治理提供了重要启示。未来,随着国际间在AI治理领域的深入合作,我们有理由相信,医疗人工智能将在全球范围内为人类健康福祉贡献更大力量。


特别声明:智慧医疗网转载其他网站内容,出于传递更多信息而非盈利之目的,同时并不代表赞成其观点或证实其描述,内容仅供参考。版权归原作者所有,若有侵权,请联系我们删除。

凡来源注明智慧医疗网的内容为智慧医疗网原创,转载需获授权。


智慧医疗网 © 2022 版权所有   ICP备案号:沪ICP备17004559号-5