1月29日，由前搜狗公司CEO王小川创立的“百川智能”发布了超千亿参数的大语言模型Baichuan 3。百川智能方面表示，Baichuan 3在多个权威医疗评测上的中文效果超过了GPT-4，是中文医疗任务表现最佳的大模型。
据介绍，百川智能在模型预训练阶段构建了超过千亿Token的医疗数据集，包括医学研究文献、真实的电子病历资料、医学领域的专业书籍和知识库资源、针对医疗问题的问答资料等。该数据集涵盖了从理论到实际操作，从基础理论到临床应用等各个方面的医学知识，确保了模型在医疗领域的专业度和知识深度。针对医疗知识激发的问题，百川智能在推理阶段针对Prompt做了系统性的研究和调优，通过准确的描述任务、恰当的示例样本选择，让模型输出更加准确以及符合逻辑的推理步骤，最终不仅提升了Baichuan 3在多项医疗考试上的成绩，并且在真实的医疗问答场景下也能给用户提供更精准、细致的反馈。百川智能表示，Baichuan 3在数学和代码等多个权威评测上接近GPT-4，证明了其强大的基础逻辑推理能力。基于丰富高质量的专业医疗知识，通过调优后的Prompt可对这些知识进行充分激发，再结合超千亿参数的推理能力，Baichuan 3在医疗领域的任务效果提升显著，在各类中英文医疗测试中的成绩提升了2到14个百分点。不仅MCMLE、MedExam、CMExam等中文医疗任务的评测成绩超过GPT-4，USMLE、MedMCQA等英文医疗任务的评测成绩也逼近了GPT-4的水准。未来，百川智能将基于Baichuan 3打造“超级应用”，把大模型技术落地到诸多复杂应用场景。
