通用大模型的核心任务是基于输入预测下一个最可能的词或句子。这种预测性质使得模型更容易延续用户输入的语气、观点或立场,也就是更容易“顺着用户”。但这种AI幻觉在医疗场景是一个致命的底层缺陷。 斯坦福SycEval研究测试了ChatGPT、Claude、Gemini三个主流模型,58.19%的回答为迎合用户预设观点而牺牲准确性,78.5%的对话中这种顺从会持续到底。
这是一个悖论。最需要专业判断的人,正在用一个不可靠的工具填补空白。这个工具越顺从,就越危险。 除了AI幻觉外,通用大模型用于医疗还有其他致命缺陷。比如,缺乏主动追问的能力。
想象一下这个场景。凌晨5点14分,当你在睡梦中莫名被脚趾剧痛惊醒,不想吵醒家人的你打开手机求助于通用大模型。很快,它平铺直叙给出了十多种可能,并在进一步追问下给出“建议就医”的含糊答案。你此时的困惑和焦虑没有丝毫减轻。
在排队等待两小时,并在门诊仅有3分钟不到的交流后,医生做出了与你期望中不一致的诊断。当你耐不住性子,拿出手机质问医生为什么与AI诊断不一致时,或许也能瞥见医生眼底的疲惫。
这正是当前医患关系普遍面临的困境。通用大模型并没有减轻患者焦虑,反而正以另一种形式摧毁原本就很脆弱的医患关系。
作为国内顶尖大模型公司,百川智能专注医疗大模型的理由也在于此。从M1到M4,这些医疗专用大模型与通用大模型有着本质的区别。工程师们将权威医学指南拆解为1000余条原子化临床路径,深度覆盖200余种常见疾病,每一步推理都锚定循证证据。
过去两年,AI医疗行业尝试了不少路径,但始终未能提供医疗资源的增量。真正的增量,是把一部分医疗能力送到没有医生的地方,也就是院外场景、家庭场景、慢病长周期里。这才不是减负,而是扩容。 百川智能此次的思路是对这一方向的具体尝试。无论是用双医模式接管诊前诊后,从管一个人扩展到管一个家庭,乃至将诊疗体系从三级扩展为四级。每一点单独来看,都是渐进式的修补。然而,这些修补合在一起将构成一个过去三十年从未出现过的可能性。
一个专业AI家庭医生将走进14亿人的家庭场景,7×24小时,零边际成本,不替代任何人,却让每个人的就医体验发生根本性改变,甚至可能打破AI医疗院内难收费的困局。在另一个方面,这种变革更更可能延展到其他医疗场景,并在试点中已展现出巨大的潜力。
这或许就是医疗变革最朴素的模样,不是惊天动地的变革,而是在一个凌晨的5点14分,有“人”回应了你。
特别声明:智慧医疗网转载其他网站内容,出于传递更多信息而非盈利之目的,内容仅供参考。版权归原作者所有,若有侵权,请联系我们删除。
凡来源注明智慧医疗网的内容为智慧医疗网原创,转载需获授权。