个思想实验:假设两位AI实习生,现在他们同时进入一家三甲医院。第一位,我们叫它“学霸”。入院第一天,医院给了它海量的病历、论文和临床指南——假设是数百万份文档。学霸的任务只有一个:拼命地读,读完以后,给它看一个新病人的主诉和检查结果,它要模仿它读过的那些医生,写出一份像模像样的诊断建议。第二位,我们叫它“莽夫”。入院第一天,医院没有给它任何教材,只给了它一个模拟诊室。诊室里有个“虚拟病人”,莽夫每次开药或下医嘱,虚拟病人都会给出反馈——病情好转(+1分)、没变化(0分)、恶化(10分)。莽夫的任务只有一个:拼命地试。试到它找到一套能让虚拟病人存活率最高的治疗方案。如果你的第一反应是“学霸”,恭喜你——你和绝大多数人的直觉一致。但如果你犹豫了,开始想“莽夫那种不断试错的方式,会不会发现人类医生从没想过的疗法?”——恭喜你,你已经摸到了人工智能两大核心范式——“从已有世界中学习”与“在未知空间中探索”——的分界线。医疗AI并不是一套独立的人工智能技术,而是建立在通用AI能力之上的行业智能。因此,在理解MedPaLM、AlphaFold、医疗Agent之前,首先必须理解今天几乎所有医疗大模型共同依赖的三块底层能力:LLM(大语言模型)、强化学习,以及两者之间的RLHF。本文聚焦于这三条主线,这是理解当前医疗AI最重要的切入点。但需要说明的是,医疗AI的技术谱系远不止于此——卷积神经网络(CNN)用于医学影像、图神经网络(GNN)用于分子设计、扩散模型用于蛋白质结构生成,都在各自领域发挥着关键作用,我们将在其后的系列文章中进行介绍。
一、大语言模型(LLM)——人类知识的“超级模仿者”
从训练目标来看,大语言模型只是预测下一个词。但在压缩海量知识的过程中,它逐渐学习到了概念之间的关系、知识结构以及一定程度的推理能力。因此,“预测下一个词”只是训练任务,而不是模型最终表现出的能力。它怎么“学”的?给它看海量的文本——从维基百科到医学论文,从小说到论坛帖子。它发现“发热”后面大概率跟着“咳嗽”,“心梗”后面大概率跟着“支架”。于是它把这些模式记下来,压缩成一个巨大的概率模型。下次你问它“发烧了怎么办”,它就会根据自己见过的所有人类回答,拼凑出一段看起来最像人类会写的话。知识面极广:它“读过”的东西比任何人类医生都多——除了几万篇论文,还有几乎整个公开互联网的信息。反应极快:你问一个问题,它秒回。不需要翻书、不需要检索。语言流畅:它写出的病历、报告,几乎看不出是机器写的。LLM最大的问题是,它生成答案的核心机制并不是验证事实,而是预测最符合上下文的表达。因此,当知识不足或条件变化时,它可能生成流畅但错误的信息。举个例子:你问LLM“给心梗患者开什么药”,它回答“阿司匹林”(仅作算法逻辑示意,非临床指南)。这个答案是对的。但如果你问它“给对阿司匹林过敏的心梗患者开什么药”,一个优秀的LLM如果训练数据里有这个模式,它可能也能答对。但如果训练数据里没有呢?它会编一个出来——而且编得极其流畅,让你根本看不出来它在胡说八道。这就是医学界最怕的“幻觉”:AI以极其自信的语气,给出完全错误的医疗建议。LLM的画像:一个记忆力超群、考试满分、但从不质疑自己的医学生。它擅长学习人类知识的表达模式,但缺少天然的事实验证机制。
二、强化学习(RL)——未知空间的“孤独试错者”
强化学习的本质,用一句话说就是:一个通过不断试错、接收奖惩信号,自己摸索出“怎么做最好”的探索者。它怎么“学”的?不给它任何“标准答案”,只给它一个环境和一套规则。它做动作,环境给反馈——好(奖励)或坏(惩罚)。它通过成千上万次试错,自己总结出“什么策略能拿到最高分”。就像教一只小狗打游戏:不给它说明书,不给它攻略,就让它自己按手柄。按对了加分,按错了扣分。几万局之后,它可能比你打得还好。它看似是无脑试错的“莽夫”,实际上是在复杂环境中通过概率优化寻找长期收益最大策略的数学系统。能发现人类不知道的东西:AlphaGo在第二局中的第37手棋——在当时职业棋手看来近乎不可思议——最终被证明是一种扭转局势的妙手。这说明强化学习可以探索超越人类经验分布的策略空间。能做长期规划:不是为了眼前得分,而是为了最终胜利。今天的“错棋”可能是为了明天的“布局”。可以在特定环境中减少对人工标注答案的依赖:通过反馈机制探索人类未充分搜索的策略空间。强化学习的价值在于:它能够通过环境反馈优化策略,在规则明确或可模拟的领域探索人类未充分搜索过的空间。强化学习的最大问题是:它需要海量的试错,而且一旦目标定偏了,它会以极高的效率“完美地做错事”。在围棋里,规则是确定的,试错成本是计算成本(电费)。但在真实医疗里,你敢让AI在真人身上“试错”吗?一个错误的用药方案,一次错误的手术操作——代价是生命。另外,如果给它设定的奖励函数是“让血压降得越快越好”,它可能会找到一种方案:用超大剂量降压药把血压瞬间打下来,但患者直接休克了。在它看来,“血压快速下降”这一项满分,但它完全不考虑患者的整体生存。RL的画像:一个孤独的探险家,敢于踏入所有人类不敢走的未知领域,但一旦指南针(奖励函数)偏了,它会把你带进深渊。补充: RL在医疗中真正的应用场景,是在规则明确、可模拟的领域——例如动态治疗方案优化(帕金森病用药调整、胰岛素剂量滴定)、放疗剂量规划、以及药物分子生成中的定向优化。这些场景允许AI在模拟环境中完成“试错”,再将最优策略应用于真实临床。
三、两者的“联姻”——RLHF如何改变了游戏规则
看到这里你可能会想:LLM和RL各有短板,那能不能把两者结合起来?这就是RLHF(基于人类反馈的强化学习)的由来——ChatGPT背后的核心技术。
- 先让LLM“读完万卷书”:在海量文本上预训练,得到一个会说话、知识渊博的“学霸”。
- 请人类当“裁判”:让LLM对同一个问题生成多个回答,人类标注员给这些回答打分——哪个更安全、更有用、更无害。
- 用RL去“矫正”LLM:把人类打分训练成一个“奖励模型”,然后用强化学习算法(主要是PPO,即近端策略优化)微调LLM,让它生成的内容朝着高分方向偏移。
通俗地说:LLM是发动机,RL是方向盘。 发动机决定了你能跑多快(知识广度),方向盘决定了你往哪跑(价值方向)。但需要区分两种不同的RL:AlphaGo的RL是深度强化学习,通过自我对弈探索策略空间,发现人类未知的解决方案。而RLHF中的RL是策略优化算法(PPO/DPO),在相对稳定的奖励模型指导下微调语言模型,本质上是对人类偏好数据的拟合。前者是“发现未知”,后者是“对齐偏好”——两者不在同一个技术层面。没有RLHF,LLM只是一个“什么都像”的模仿者——它可能既像好医生,也像江湖骗子,你根本不知道它什么时候会胡说八道。有了RLHF,它才成为一个“知道什么该说、什么不该说”的可靠助手。但需要注意的是,RLHF主要解决的是“行为对齐”,而不是让模型真正获得医学推理能力。医疗场景还需要额外的知识增强、工具调用、临床验证和安全体系。这是医疗AI能走向临床的关键一步:不仅要“像医生”,还要“像好医生”。
四、用这套框架看懂医疗大模型
理解了这些底层能力,我们就可以重新观察今天医疗大模型能力的演化路径。今天讨论医疗大模型,真正应该比较的,已经不只是参数规模,而是它构建智能所依赖的核心能力。有的模型擅长“理解医学知识”,有的模型擅长“发现生命规律”,有的模型擅长“组织复杂任务”,它们共同构成了未来医疗AI的能力体系。L1:认知智能(Knowledge Intelligence)。 这类模型擅长处理医学知识:阅读文献、总结病历、回答标准化问题。它本质上是LLM在医学领域的延伸——把海量医学文本压缩成一个可对话的知识库。MedPaLM系列是这一层的典型代表。L2:感知智能(Perception Intelligence)。 这一层开始调用工具。它不仅能理解文本,还能看CT、读心电图、分析病理切片。通过多模态模型,它把影像和信号转化为临床可用的信息。MedPaLM M代表了这一方向的代表性研究工作。L3:科学智能(Scientific Intelligence)。 这一层不再处理人类的语言,而是探索自然的规律。AlphaFold预测蛋白质结构,AlphaProteo设计蛋白结合分子——它们的目标是理解生命本身的语言。AlphaFold系列代表的是科学AI路线。AlphaFold 2主要基于Transformer等结构学习框架完成蛋白质结构预测,而AlphaFold 3进一步引入扩散模型(Diffusion Model)等生成思想,用于预测蛋白质与DNA、RNA及小分子的相互作用。L4:执行智能(Execution Intelligence)。 这一层开始组织和执行复杂任务。它不仅能回答问题、分析影像、发现规律,还能把一个复杂的临床任务分解成多个步骤,调用不同的工具、检索知识库、执行操作,最后整合结果。医疗Agent是这一层的代表——它像一位会思考、会行动的医疗助理。
五、为什么医疗比其他行业更需要“混合智能”?
医学论文、临床指南、历史病例——这是LLM最擅长的领域。它能在秒级时间内检索、整合、生成符合医学规范的建议。但它无法判断这些知识在特定患者身上是否适用。蛋白质折叠、分子相互作用、疾病演化机制——这是科学AI(如AlphaFold)探索的领域。它从生命数据中发现规律,但缺乏对真实患者的直接感知。症状变化、治疗反应、心理状态、伦理抉择——这是人类医生和AI Agent需要共同面对的领域。信息不完整,风险不确定,共情和责任至关重要。医疗AI的终点,不是制造一个万能医生,而是建立一个连接医学知识、生命规律和临床行动的智能系统。
结语:医疗AI不是二元对立,而是系统融合
回到开头那个思想实验——“学霸”和“莽夫”谁会成为更好的医生?学霸(LLM)知识渊博但缺乏判断力,可能在关键时刻编造答案。莽夫(RL)探索能力强但风险极高,可能在真人身上试出致命错误。真正的答案,是“联姻”——让学霸提供知识底座,让莽夫提供优化方向。就像RLHF所做的那样。未来的医疗AI,既需要LLM的“广博”,也需要RL的“深刻”。既需要“读万卷书”的积淀,也需要“行万里路”的探索。但未来医疗AI的真正形态,不是LLM赢还是RL赢——而是:LLM负责理解人类知识,科学AI负责模拟自然规律,多模态模型负责感知现实世界,而Agent负责把这些能力组织成完整任务流。 人类反馈与持续优化(RLHF、偏好学习、在线学习等)则贯穿整个系统的生命周期,持续校正其方向。未来医疗竞争的核心,不再只是拥有一个更大的模型,而是谁能够持续组织知识、调用智能能力、连接临床工作流,并不断迭代整个医疗AI能力体系。它会成为医生的“外挂大脑”——负责部分可计算的任务,把“不可计算”的共情、信任和担责,留给人类医生。AlphaFold技术架构:DeepMind官方论文及公开技术文档MedPaLM系列:Google Research公开发布信息
免责声明:
智慧医疗网转载其他网站内容,出于传递更多信息而非盈利之目的,内容仅供参考。版权归原作者所有,若有侵权,请联系我们删除。
本平台所发布信息的内容和准确性由提供消息的原单位或组织独立承担完全责任!
凡来源注明智慧医疗网的内容为智慧医疗网原创,转载需获授权。