导语
人工智能（Artificial Intelligence）是一个由多领域研究组成的极具挑战性的技术科学，目前已经有长达 60年的历史。人工智能在当今的医疗领域发展势头正盛，我国对于人工智能也表现出了高度的关注和支持。
人工智能在医疗领域体现出很多显著的优势，例如有助于提供更加准确高效的影像诊疗，在药物研发中的应用也可大幅降低人力以及资金成本等等。但是伴随着人工智能在医疗领域的高速发展也存在诸多问题与挑战。
那么人工智能在医疗领域有哪些应用场景？其未来发展的趋势又如何呢？本期内容我们将跟随清华大学国际传播研究中心的李宏宇和郑雅婷一起了解人工智能在医疗领域的使用与发展。
AI技术在医疗领域的使用与发展
AI即人工智能（Artificial Intelligence）的缩写，1956年，在达特茅斯会议上，由McCarthy等人提出了“人工智能”的概念。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。AI技术自诞生以来，理论和技术日渐成熟，广泛应用于物流、通信传媒、医疗健康等多个领域，其中AI技术在医疗领域的发展势头强盛，根据IDC数据，预计到2025年全球人工智能应用市场总值将达1270亿美元，而AI医疗处于高速成长期，占据人工智能市场的五分之一1。 近年来，我国也对人工智能表现出高度的关注与支持，陆续出台了多部相关政策文件（见表1）。2017年，国务院印发《新一代人工智能发展规划》，提出建立人工智能关键技术体系；工信部印发《促进人工智能产业发展行动计划》对人工智能技术发展做出详细规划；2018年国务院印发《促进互联网+ 医疗健康发展的意见》允许依托医疗机构发展互联网医院。AI技术已广泛应用于医疗器械、辅助诊断、药物研发和网售药品监管等领域。 人工智能与医疗领域的融合主要采用的是机器学习算法和大数据分析技术，通过AI技术，可以提高医疗服务效率，降低成本，推动医疗领域的正向发展，从而也推动了医疗人工智能的发展。 表1. 部分人工智能相关出台政策文件（2016-2022） 时间 文件 出台单位 2016年10月 “健康中国2030”规划 国务院 2017年7月 新一代人工智能发展规划 国务院 2017年12月 促进新一代人工智能产业发展三年行动计划（2018-2020） 工信部 2018年4月 促进互联网 + 医疗健康发展的意见 国务院 2022年7月 关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见 科技部等六部门 01 AI技术在医疗领域的应用情况 01 AI技术在医疗诊断的应用发展： 诊断、监测为主 1.智能影像诊断 智能影像诊断，即将AI技术应用于医学影像辅助诊断领域，AI 在此领域落地最早、应用最广。在医学影像领域（包括放射、病理、超声等），AI技术的应用有助于推动精确、均质、高效的影像诊疗，主要可以分为两类，一是图像识别与重建，二是深度学习辅助诊断疾病。 图像识别与重建 图像识别主要是AI将病变部位进行影像分析，获取并汇总可能指向病变的信息。目前AI已被应用于筛查肋骨骨折、肺结节、肺炎，旨在消除漏诊，提升诊断效率；此外，AI还可以通过算法的图像映射技术，将采集的少量信号恢复出与全采样图像同样质量的图像，且使用图像重建技术，可将低剂量的CT和PET图像重建得到高剂量质量图像。在满足临床诊断需求的同时，还能够降低辐射的风险。 深度学习辅助诊断疾病 深度学习主要是利用影像大数据和模型训练，使AI具有评估和诊断能力，得出辅助诊疗方案。在这一领域AI主要运用于诊断肺部疾病、诊断眼底疾病、诊断脑部疾病、诊断神经系统疾病和诊断心血管疾病。 在诊断肺部疾病上 国内应用AI+CT影像最为成熟的领域在肺结节的识别上。AI能够有效识别易漏诊结节比如6mm以下实性结节和磨玻璃结节，准确率在90%左右，同时能反馈结节位置、大小、密度和性质等。 在诊断眼底疾病上 目前应用最为广泛的是筛查糖网病。糖网病是常见的视网膜血管病变，也是糖尿病患者的主要致盲眼病，早期往往没有任何临床症状，一旦有症状已错过最佳治疗时机。AI通过对眼底图像的深度学习，可实现对糖网病的诊断。 在诊断脑部疾病上 主要包括脑出血、内动脉粥样硬化诊断、颅内动脉瘤诊断和颈动脉易损斑块评估等。其中，脑出血是神经内外科中高致死致残率的一种难治性疾病。AI+头部CT，基于机器视觉与深度学习技术，可以迅速定位脑出血区域，精确量化出血体积，判断是否存在脑疝，同时，能以秒级速度完成专业要求高、耗费时间长的影像评估，协助医生准确判断，让患者第一时间获得最优治疗方案。 在诊断神经系统疾病上 AI在神经系统疾病里的应用主要包括癫痫、阿尔兹海默症、帕金森病的诊断。AI可以将患者的影像数据进行处理分析，并与正常人群组做统计比对，从而计算得到代谢异常的病灶大小、位置等信息，通过认知技术，给出治疗方案的建议以及治疗效果的预测。 在诊断心血管疾病上 AI可以在胸部CT数据基础上，利用深度学习技术和图像处理技术，设计特定算法后评估冠状动脉易损斑块，进行冠心病智能辅助诊断，规划支架手术植入方案。同时还可以智能诊断主动脉疾病类型、主动脉瘤等复杂疾病。 2.智能语音电子病历 智能语音技术作为理想的人机交互的方式之一，主要是通过让机器通过接收、识别和理解人的语言信号从而转变为相应的文本或指令2。智能语音电子病历，即将智能语音技术与电子病历相结合，通过对着录音笔大小的小麦克风口述，将医生口中的专业词汇准确地变成屏幕上的文字，实时录入到病例系统里。借助智能语音识别技术，突破传统医疗报告耗时长、效率低、报告输入或记录模式的限制，减少甚至代替键盘输入，是提高医生工作效率和服务质量的创新工作模式3。当前，全球多家企业公司，如亚马逊、谷歌、Nuance、科大讯飞、云知声等均在智能语音电子病历有所布局。 Alexa应用平台拥有来自Mayo Clinic（梅奥诊所）和Libertana等机构的轻量级医疗应用程序，可以回答医疗问题、在紧急情况下发送警报，并帮助用户与护理人员沟通。语音助手Alexa还可以集成到电子病历中，成为一个被动的记录者。 谷歌建立了基于音素的连接性时间分类模型和基于字母“聆听、关注、拼写”的模型，两种模型的单词错误率分别为20.1%和18.3%，对医疗场景中的对话可有效地进行高级编写和标记等。 Nuance公司的医疗语音识别系统可将医生报告录入时间缩短为原来的1/5，有效提高医生的工作效率4。借助智能语音输入宝整理病历数据一分钟便可转录4000字，识别准确率达98%5。 科大讯飞的智慧医疗解决方案系统包括一个可以夹在医生领口的医学麦克风，一个可以装在医生口袋的发射器，还有一个可以插在医生工作电脑上的接收器。在接诊过程中，医生只需要以口述的方式说出患者的病历，医生的工作电脑上就会自动生成结构化的电子病历。之后，只需医生对电子病历内容进行简单修改确认，即可打印提供给患者，并完成电子档保存。 云知声智能医疗语音录入系统以面向医疗领域的高性能识别引擎为基础，通过语音来高效处理大量文本录入工作，通过语音和手持设备上的功能键与院内HIS、PACS系统等交互起来。医生通过语音录入方式可以有效避免复制粘贴操作，规范病历输入，增加病历输入安全性。 当然，智能语音电子病历系统仍存在较大的技术挑战，医学知识图谱仍待完善，降噪、变异发音单元监测和模型训练等技术问题还待解决6。但随着系统的优化和升级，语音电子病历终将被运用到更多医疗场景中。 3.可穿戴式设备 可穿戴设备指采用穿戴技术对日常设备进行智能化设计，以特定算法技术运行，附着或穿在用户身上的一类产品统称，监测范围包括运动、环境、生理、医疗等数据信息。随着信息技术发展，生物数据引擎的开发使可穿戴设备在抗干扰、自动甄别以及监测准确方面有了质的飞跃，收集到海量数据不仅用于健康状况分析，还可对疾病预防进行管理。由于心血管疾病的隐匿性和不可预测性，其发生率和致死率一直居高不下，给病人、家庭和社会带来极大的负担，因此日常监测对发现和控制心血管疾病尤为重要。 目前，临床上比较常见的心电图监测包括常规心电图、24ｈ动态心电图（Holter）以及心电监护仪（有线或无线），前者只能单次使用，而后两者虽然可以佩戴时间长，但因为使用导电胶，导致病人皮肤发生过敏或破溃，增加病人的不舒适感。因此，为了使人们能够有效管理自己的健康，国内外在可穿戴心电监护方面进行了许多研究。Steinberg等7设计了背心式 OMsignal系统，研究发现该设备与 Holter在信号质量和准确性方面相当，而且舒适度高，可广泛应用于动态非侵入性心电监测，提高心律失常的诊断，并且对数据云储存，由专业医生进行分析，以实现心脏病的远程监控，本系统还可针对隐匿性脑卒中病人使用，预测心房颤动的发生。 部分智能手机应用可识别潜在的心房颤动，研究发现测出异常脉冲再次行心电监护的参与者中，其心房颤动发生率为34％，阳性预测值为0.84［95％CI(0.76,0.92）］，为实现大规模心房颤动筛查提供机会8。在医疗领域中可穿戴设备实现了对人类生理和病理数据的全面采集、记录、分析、调节和干预，及时发现异常变化，达到维持健康、治疗疾病的目的。 4.临床诊疗 AI技术在医疗诊断中的应用在 20 世纪 50 年代后期才开始出现的, 常用于一些常规的医学疾病诊断，但由于研究任务的复杂性和AI技术本身存在的不确定性，此前并未广泛应用于临床诊疗。随着经典概率和 DemPster—Schafers 迹象理论的出现, 以及后来的贝叶斯网络的应用，AI逐步开始应用于临床诊疗。第一个AI医疗专家系统出现于上世纪50年代，当时用于模拟病人的病症和疾病之间的关系，又称为医学专家系统（MES）。MES是AI技术应用在医疗诊断领域中的重要分支之一9，是在某个领域内具有专家水平解题能力的程序系统。它的设计原理与方法主要是模拟医学专家诊断疾病的思维过程, 继承和发扬医学专家的宝贵理论及丰富的临床经验，作为医生诊断的辅助工具帮助医生解决复杂的医学问题。 而在近 10 年间, 国内外对自闭症智能化识别方法的探索在经典任务行为、面部表情和情绪、眼动、脑影像、运动控制和运动模式、多模态6个领域积累了丰富的研究成果。我国自闭症患者超过1000万, 其中0~12 岁患者超过 200 万, 以每年近20万的速度增长10。可见, 过去被视为罕见症的自闭症, 目前已经位居我国幼儿残疾发病率第二位,仅次于智力障碍。自闭症越早发现, 越早干预, 预后效果越好(Matson et al., 2008)。目前,人工智能技术辅助的自动化医疗诊断领域发展迅速,例如,依托计算机视觉的面部检测技术已实现超过 30 多种疾病的症状识别或预诊断,其中包括多种精神类疾病,如注意缺陷与多动障碍和抑郁（Thevenot et al.,2017）等。计算机视觉、智能传感器、机器学习、深度学习等人工智能技术已逐渐成功用于自闭症的早期预警（Hazlett et al.,2017）和机器辅助治疗（Zheng et al.,2015）。 02 AI在药物研发的应用： 全流程应用 传统的药物研发过程既漫长又昂贵，根据塔夫茨药物研发研究中心数据统计，药物的研发到投入使用时间长达12年，并且90%的药物研发在临床试验的最后两个阶段中失败，一款新药的平均研发成本高达26亿美元。创新药物研发的大部分时间和经费都花在从10万个化合物中筛选出1000 到100个，10个乃至最后几个苗头化学物的过程中。而AI技术在药物研发中的运用，可以大幅降低研发投入资金、临床试验等成本。 截至2020年，全球约有240家人工智能药物研发公司，它们主要聚集在北美以及欧洲地区，中国以及亚洲其他地区也是该领域增长较快的地区之一（如图1）。AI技术在药物研发的靶点发现——药物发现——临床前实验及临床试验——上市后管理等各个阶段均有应用（如图2）。 图1. 2020年全球240家AI药物研发公司分布 （来源：AI For Drug Discovery, Biomarker Development and Advanced R&D Landscape Overview 2020） 图2. 活跃于药物研发各阶段的AI公司 （来源：Artificial Intelligence in Life Sciences: The Formula for Pharma Success Across the Drug Lifecycle） AI 技术可以通过对现有化合物数据库信息的整合和数据提取、机器学习，提取大量化合物与毒性、有效性的关键信息，大幅提高筛选的成功率。目前已经有加拿大的初创公司开展这方面的探索研究与业务。人工智能还通过模仿人脑智能活动，从海量医学知识提取关键有用信息，构建复杂信息处理模型预测研发方向，该技术在蛋白结构及蛋白配体相互作用预测、药物靶点发现、活性化合物筛选、分子生成、化合物性质预测、临床试验、生物标志物研究、药物重定向等环节均已得到广泛应用 11-15。美国药物设计公司 Atomwise 拥有的 AtomNet® 是第一个基于结构的虚拟药物发现平台，该技术利用卷积神经网络能在数周或数月内筛选出小分子候选药物，还能解锁多个无成药性靶点。Atomwise 正与全球 250 多个合作方开展 775 个项目，应对 600 多个独特的疾病目标，包括肿瘤（38%）、传染病（26%）、 神经系统疾病（8%）、心血管疾病（5%）、免疫性 疾病（4%）、内分泌系统和新陈代谢性疾病（4%）、罕见病（3%）、生物学（2%）及其他（10%）。欧洲最大的新药研发独角兽公司Benevolent. AI使用英伟达超级计算机DGX-1，应用 Benevolent Platform® 平台模拟大脑皮质识别和学习模式，能够在海量数据与信息源之间建立新关系，更高效地产生更多创新药物。2020 年 2 月该公司利用人工智能工具和生物医学知识图谱帮助礼来制药公司发现了 COVID-19 潜在抗病毒药物巴瑞替尼（baricitinib），于同年11月宣布巴瑞替尼与瑞德西韦联合用药达到研究终点，与瑞德西韦单用相比显著缩短患者康复时间16。 除此之外，英国邓迪大学的一个分支机构Exscientia是最早一批成立的药物研发AI技术服务公司，它已与多个跨国制药公司建立了合作项目，并将2款药物推进到了临床1期试验阶段。其中一款是与大日本住友制药合作开发的精神疾病用药，于2020年1月宣布推进到1期临床试验，以治疗强迫症患者。第二款是与赛诺菲合作开发的肿瘤免疫治疗小分子药物，于2021年4月9日宣布进入1期临床试验，以治疗成人晚期实体瘤患者，这也是由AI设计的首个双特异性肿瘤免疫治疗小分子。 2021年11月30日，由我国英矽智能科技公司端到端人工智能药物研发平台Pharma.AI所发现的候选药物ISM001-055在首次微剂量人体试验中，完成第一例健康志愿者的临床给药。 03 AI在网售药品监管的应用： 智慧监管与药品追溯体系建设 药品追溯是药品监管的重要组成部分和重要环节，近年互联网药品交易兴起，药品网络销售为药品流通环节增加了新渠道，但网上零售药店增多也就意味着药品追溯的终端增多，更切实有效的网络药品追溯体系亟待建立。 智慧药品追溯协同服务平台的建设能够通过大数据、物联网等技术的运用，将互联网药品交易过程中所产生的交易数据全程留痕，实时上传现场检查过程中的监管数据，全程保留企业自查自控自证的数据，便于监管部门随时查看监管进度，及时获取监管过程的反馈，解决监管过程中出现的问题。例如，山东省烟台市牟平区设立了“药品安全电子远程监管系统”，包含完备的可追溯药品监管数据库。再如，浙江省药监局启动数字化监管“黑匣子”工程，做到一链成证，一盒管数字、双向管安全、风险可追溯，保障药品质量安全。 除此之外由于网络经营具有易隐蔽、高智能的特点，传统行政监管手段难以有效应对，AI技术在互联网药品交易的监管中更显必要。 一是AI可对违法情况在线实时监测。互联网具有虚拟性，用户身份隐蔽性强，网络药品经营主体众多，导致监管违法行为难以查处。利用AI及大数据技术对网络药品经营的数据实时监测分析，能够及时发现异常信号并进行监管。例如，国家药监局南方医药经济研究所的互联网药品信息和交易监测平台，利用信息化技术和手段完成对涉嫌违法违规的药品信息和交易网站的全网搜索，进而为互联网药品监管提供基础信息。 二是AI可实现监管资源共享。药品监管部门与公安机关、互联网信息主管部门等合作，加强对药品网络销售和药品网络交易服务的监督检查，实现监管部门之间数据共享。通过建立全国统一的网络药品经营监管平台，使各地域、各部门形成监管合力，提高互联网药品经营的监管效率。 02 AI技术在医疗领域面临的挑战 随着AI技术在医疗诊断、药物研发以及网售药品监管中的应用深化，随之而来的面向智能医疗的人工智能技术也不断涌现。虽然这些人工智能技术在一定程度上解决了以往医疗领域存在的顽疾和痛点，但是人工智能技术真正在医疗领域产生大规模、有价值的应用，还存在很大的障碍与挑战17。 01 AI在药物研发中面临的挑战 随着近几年全球药企公司纷纷对AI+药物研发展开布局，其发展备受业界瞩目，但AI+药物研发作为新兴领域，也面临着一些挑战。2019年4月，IBM公司因为财务业绩低迷，决定停止开发和销售药物开发工具Watson人工智能套件18；2022年7月，Exscientia与大日本住友制药合作开发的精神疾病用药DSP-1181因Ⅰ期临床试验结果未达预期标准而选择终止其开发19。财政状况、AI技术预测药物的可成药性、最终产出等均对人工智能在药物研发领域的发展产生了阻碍。 此外，生物学的复杂性，给数据获取和AI算法设计也带来巨大挑战。药学是一个融合化学和生物学的学科，在数据层面，化学方面的数据更加稳定、可控与易于计算；而生物学数据涉及受体蛋白的构象变化，平衡和偏置信号等难以定量计算。化合物与人体靶点的结合与反应过程非常复杂，目前理论认知不足，受环境影响因素很大，数据稳定性和可重复性较差。而当前AI算法模型只纳入部分化学指标，生物学指标不完整也对其研发构成了挑战。对于小分子药物在生物系统中的作用很难用一组有限的参数来定义，而化合物在体内的其他特性在模型中被降级为次要的或可忽略部分，包括其前体化合物、代谢产物、浓度依赖性效应等，这些被忽略的因素决定着药物能否到达其预期的靶点、能否起到治疗效果、以及其毒副作用是否在可以接受的范围等，这使得AI在药物发现和药效评估中面临着更大的不确定性。 02 AI在网售药品监管中面临的挑战 根据中国互联网络信息中心今年发布的第49次《中国互联网络发展状况统计报告》，截至2021年12月，我国在线医疗用户规模达2.98亿，同比增长38.7%20。网售药品为大众提供了诸多便利，但随着互联网诊疗快速发展，由AI技术过度介入与应用导致的在网售药品环节中的误诊白诊、先药后方、AI开处方、诊疗事故等乱象也层出不穷，使得网售药品监管也面临着一定的挑战。其中AI开处方主要是患者通过软件问诊，药师审方签字，并输入患者姓名和处方药需求后，平台会自动生成处方。现实中，部分药店使用互联网医院平台自动生成处方，选择“AI开处方，客户直接取药”的模式，跳过传统的处方开具、审核环节。由于很多是AI自动处方，并没有相应的医师资源接入，有的甚至只有患者单方面的病情描述，一分钟不到就能开具处方，开处方在很多电商或者互联网医院平台似乎正逐渐变成走形式、走过场，最终把AI技术的运用变成了“卖药”的手段。 03 AI在健康医疗数据管理面临的挑战 AI在医疗领域应用的基础是健康医疗数据，人工智能的训练需要大量的已经标注好的医疗数据。健康医疗大数据标准、数据质量、数据安全性和共享等方面的问题直接影响着人工智能的发展。目前，关于医疗健康数据的归属和使用都尚无明确的规定，因此，医疗人工智能公司在开发系统过程中，如何获得海量的医疗数据进行集中训练就存在挑战。另外，各医疗机构的医疗信息系统标准不统一，导致机构、地区以及国家之间的数据共享也存在较多障碍。此外，健康医疗数据的保护方面也存在隐患。人工智能技术在智能医疗领域应用所面临的隐私与安全保护问题，表现在普遍存在的黑客攻击与数据泄露、恶意攻击算法造成大规模病患伤害（例如为糖尿病患者过量配备胰岛素）等诸多方面21。 2019年11月，美国谷歌公司在美国21个州秘密收集数百万份患者相关实验室结果、医生诊断书、住院记录与病历的夜莺计划被曝光，引起广泛关注。探索在大数据环境下全新的个人健康数据所有权模式、打造高度安全的数据治理与管理平台以及相关政府立法成为当务之急。探索确保数据隐私和安全先决条件下的医疗AI技术，是AI在未来医学领域应用必须解决的一个关键问题。 04 AI在人才资源面临的挑战 人才决定了医疗AI的发展，全球 AI 相关从业人员远不能满足市场上百万级数量的需求，医疗AI更是AI技术与医疗卫生专业技能的交叉融合，需要精通医学和AI技术的复合型人才。我国在医疗人工智能领域的教学科研开展较晚，短时间内难以提供能满足市场需求的人才资源。 我国的工业和信息化部发布的《人工智能产业人才发展报告（2019-2020年版）》当中指出，目前我国AI人才缺口高达30 万，而高校每年培养出来的毕业生仅约2000人，可见医疗AI人才需求与供应存在的不平衡。AI技术的发展离不开人才的挖掘和培养，据腾讯研究院2017年发布的《全球人工智能产业人才白皮书》显示，全球AI人才约30万人，其中高校学术人才约 10 万人，产业界人才约 20 万人，市场需求却在百万级以上。从人才培养来看，全球共有 367 所开设AI研究的高校 （其中美国 168 所，占 45. 7% ），每年毕业 AI 相关领域硕博生约2万人，仍远远不能满足市场对人才的需求22。 正如前文所说，医疗AI涉及AI和医学这两大复杂学科的深度融合，属于典型的交叉学科创新，目前能通晓这两大学科的人才极其短缺，难免出现 AI 工程师对医疗领域的问题了解不够，对医疗复杂性估计不足，对医疗流程不熟悉等问题，影响 AI 产品的研发进度和功能设计。从临床应用来看，医务人员对 AI 缺乏深度认知和相关培训，也会影响其对 AI 的接受度和规范操作。 05 AI算法面临的挑战 人工智能所做出的分析和预测都是基于算法模型和数据，工程师在设计算法时会渗透着其主观特质，用于人工智能训练的数据也可能存在着某种风俗习性或价值偏好，算法和数据的偏见都很可能产生系统性的决策偏见。再加之当前在医疗AI中应用最多的深度学习算法，使用了大规模的神经网络，包含了更多的计算隐层，具备强大的自我学习和自我编程能力，其复杂性和不确定性使得人工智能存在难以捉摸的“黑箱”，即在人工智能输入数据和输出答案之间，缺乏可解释性和透明性。“黑箱”存在的后果就是难以判断人工智能是否出错，且无法进行有效监管。如果用于算法训练的数据不完整、不准确，或隐含着某些主观偏见或歧视，则有可能在算法训练中复制和放大这些“瑕疵”，最终得出有偏见甚至错误的预测结果，导致某些人群在医疗评估中受到歧视性对待，甚至可能引发医疗安全事故。同时，医疗行业事关人的生命和健康，如果不能让医生了解模型是如何作出决策的，也很难让人们对医疗AI放心接纳。 03 促进AI医疗长足发展已有的措施 AI在医疗领域的应用和发展，无疑提高了医疗工作的效率和准确性，减轻了医生的工作负担，也将为患者带来更优质便捷的医疗服务。当前医疗 AI 在应用中还面临着诸多亟待解决和突破的问题，尽管世界各国在为促进AI在医疗领域的长足发展中已经有所行动，但还需要各方应对。 01 世卫组织：《医疗卫生中AI使用的伦理和管治》指南 2021年6月28日，世界卫生组织（WHO）发布指南《医疗卫生中AI使用的伦理和管治》，指南中阐述了AI在医疗领域中的应用、适用的法律和政策、关键的伦理原则和相应的伦理挑战、责任机制和治理框架等23。指南中提到医疗卫生机构、卫生系统和公共卫生机构应定期公布使用一些AI技术的原因，以及定期评估AI的信息，避免“算法黑箱”出现；针对医生技能面临下降的挑战，指南指出医生必须提高自己在数字方面的运用能力以及对临床经验和知识的掌握，同时更多地与患者沟通使用AI的风险，做出预测、讨论权衡，包括使用AI技术的道德和法律风险。 02 美国FDA：《基于AI/ML的医疗器械软件的监管框架更改拟议-讨论稿和征求意见》 2019年4月2日，美国FDA发布了《基于AI/ML的医疗器械软件的监管框架更改拟议-讨论稿和征求意见》，该讨论稿描述了美国FDA对AI/ML驱动的医疗器械软件的变更进行审查的潜在方法24。在这个框架下，在上市前需提交的资料中，FDA引入了一个“预先确定的变更控制计划”。该计划将包括预先变更类型（被称为“医疗器械软件预先规格说明”），以及用于完成这些变更的相关方法学（该方法学被称为“算法变更协议”）。美国FDA期望从制造商那里获得基于AI/ML的医疗器械软件的透明度和真实世界性能的承诺，同时定期向FDA更新在已批准的“预先规格说明”和“算法变更协议”中，已经实施的变更内容。通过这个拟议的监管框架使AI/ML医疗器械软件的迭代改进能力在FDA的监管范围之内，保证患者的安全。 03 美、英、加：《医疗器械开发中使用人工智能或机器学习的指导原则》 2021年10月27日，美国FDA、英国MHRA和加拿大HC作为医疗监管机构共同签署发布了最新的针对医疗器械的指导文件《医疗器械开发中使用人工智能或机器学习的指导原则》25。10 项指导原则包括： 在整个产品生命周期中利用多学科专业知识； 进行良好的软件工程和安全实践； 临床研究参与者和数据集能够代表目标患者群体； 训练数据集独立于测试集； 基于最佳可用方法来选定参考数据集； 模型设计根据可用数据量身定制并反映设备的预期用途； 重点放在人工智能团队的性能表现上； 测试能够证明在临床相关条件下的设备性能； 向用户提供清晰的，重要的信息； 监控已部署模型的性能并管理再训练风险； 美国、英国、加拿大共同发布的原则旨在为医疗器械产品开发良好的机器学习实践（GMLP）奠定基础，并将有助于指导这个领域在未来快速发展。 04 中国：《人工智能医用软件产品分类界定指导原则》 2021年7月8日，国家药监局发布了《人工智能医用软件产品分类界定指导原则》（以下简称“指导原则”）26。指导原则在属性界定上，强调了产品的管理属性界定应基于其预期用途，结合其处理对象、核心功能等因素进行综合判定。 其中，若软件产品的处理对象为医疗器械数据，且核心功能是对医疗器械数据的处理、测量、模型计算、分析等，并用于医疗用途的，符合《医疗器械监督管理条例》有关医疗器械定义，作为医疗器械管理。相反，若软件产品的处理对象为非医疗器械数据（如患者主诉等信息、检验检查报告结论），或者其核心功能不是对医疗器械数据进行处理、测量、模型计算、分析，或者不用于医疗用途的，不作为医疗器械管理。在管理类别中，主要依据产品的预期用途、算法成熟度等因素综合判定管理类别。 其中，对于算法在医疗应用中成熟度低（指未上市或安全有效性尚未得到充分证实）的人工智能医用软件，若用于辅助决策，如提供病灶特征识别、病变性质判定、用药指导、治疗计划制定等临床诊疗建议，按照第三类医疗器械管理。若用于非辅助决策，如进行数据处理和测量等提供临床参考信息，则按照第二类医疗器械管理。 指导原则的发布规范了人工智能类医用软件的属性界定和类别划分，并为产业和监管部门提供了注册和审批的技术指导。 总结 AI在造福人类的同时也确实存在诸多的安全隐患，当我们在AI新时代前行时，其带来的伦理道德问题仍不可忽视，应当同科学技术一样作为一门专门的学科进行深入的研究。随着AI技术的不断发展及其与医疗卫生领域的深度融合，AI应用场景和技术有望进一步拓展和深化，AI与医疗领域的深度融合也将提升患者满意度，降低医疗成本，促进优质医疗资源的科学配置，优化医疗服务模式，进一步推动我国医疗健康变革发展。
