OpenAI的AI语音转写工具,那个号称近乎“人类水平”的Whisper,被曝幻觉严重——100多小时转录,被工程师发现约一半都在瞎扯。
更严重的是,美联社还爆料有医疗机构利用Whisper来转录医生与患者的会诊,瞬间引发大量网友关注。
在科技日新月异的今天,AI技术正以惊人的速度渗透到各行各业,其中医疗领域尤为引人注目。然而,近期OpenAI的AI语音转写工具Whisper被曝出严重幻觉问题,甚至在医疗机构中被用于转录医生与患者的会诊,这一事件瞬间引发了广泛关注和热议。如此依赖AI的时代,我们的医疗信息安全何在? 1 医疗AI:数据安全重重考验 在我国健康医疗产业中,海量的健康医疗数据如同宝藏一般,为医疗AI的发展提供了无限可能。这些数据涵盖了患者病历数据、临床诊断数据、人类基因遗传数据等多个方面,为医疗研究、疾病诊断、个性化治疗等提供了有力支持。然而,随着数据的汇聚和应用的深入,数据安全与隐私保护问题也日益严峻。如何确保这些数据在采集、存储、传输和使用过程中的安全性和隐私性,成为摆在医疗AI发展道路上的重要障碍。 1 政策引领AI医疗数据安全健康发展 为了促进医疗行业的转型升级,中国政府及相关主管机构出台了多项政策措施,致力于构建完善的AI医疗应用标准体系。 2024年7月,《健康中国行动--慢性呼吸系统疾病防治行动实施方案(2024-2030 年)》提出加强规范化诊疗和健康管理。完善慢性呼吸系统疾病相关诊疗指南、临床路径。探索应用人工智能、大数据等新一代信息技术建立规范化基层诊疗辅助系统。 2024年6月,《2024-2025 年持续开展”公立医疗机构经济管理年“活动》指出强化人工智能、大数据、云计算等现代信息技术应用加快内部各类信息系统互通互联、各类数据共享共用,充分发挥信息化在业务管理与经济管理融合发展中的重要支撑作用,显著提升运营管理精细化水平和效率效益。 2023年12月,《全面推进紧密型县域医疗卫生共同体建设》提出统一县域医共体内信息系统,加强数据互通共享和业务协同推动人工智能辅助诊断技术在县域医共体内的应用。将远程医疗延伸到乡村,推行基层检查、上级诊断、结果互认。加强网络信息安全。 1 挑战重重:数据安全与隐私保护之路 尽管政策法规体系不断完善,但AI医疗领域的数据安全和隐私保护仍面临诸多挑战。技术的快速迭代、数据流通的复杂性以及监管能力的建设等,都是亟待解决的问题。如何在保障数据安全与隐私的前提下,促进AI医疗技术的创新与应用,成为摆在我们面前的重要课题。 数据安全合规挑战 我国形成了以《网络安全法》《数据安全法》《个人信息保护法》为代表的数据安全顶层监管框架。医疗行业也出台了《医疗卫生机构网络安全管理办法》等各项监管政策,监管要求日趋精细化,网络和数据安全监管要求越来越多,满足监管的难度越来越大。 数据分类分级挑战 数据分类分级是构建完善数据要素市场的必要前提。基础制度建设相对滞后,无法有效支撑数据分类分级工作;传统数据分类分级工具在敏感数据的宽度、精度识别率不高;面向海量数据的数据资产分类分级,专业人员数量缺口巨大。 数据流动监测挑战 业务对数据流动性要求日益增加,使得数据流动路径变长,给监测带来困难。 数据泄露和信息安全威胁挑战 在数字经济时代,数据泄露和信息安全威胁是最主要的挑战之一。黑客入侵和网络攻击频繁发生,企业面临着盗窃、勒索和恶意软件等多种风险。 数据安全保障体系建设滞后 随着大数据、云计算等新技术的应用,医疗数据安全面临新的威胁。传统的安全防护措施可能无法应对复杂多变的攻击手段,如数据泄露、篡改、勒索等。同时,数据安全风险感知、监控、预警和应急响应能力不足,使得在发生安全事件时,难以及时、有效地进行处置。 1 全流程治理体系保障医疗数据安全 面对日益严峻的数据安全环境,道普信息风险管控专家倡导构建全面的构建动态安全防护体系,积极跟踪国内主要政策,切实落实数据安全要求,建立起可信赖的医疗领域数据安全环境。 强化数据资产管理 01应用数据资产发现工具:部署数据发现产品,通过预配置数据分类分级模板,自动化识别数据业务类型,对数据含义进行标识,从而全面、准确地掌握医疗数据资产状况。 02统一分类分级标准:结合国家和地方发布规范,梳理并制定适用于本地实际情况的分类分级参考规范,确保数据管理的标准化、一致性。 构建全方位数据安全防护体系 01建立数据安全风险感知平台:实现数据安全的“六个统一”管理,即统一账户、统一监控、统一展示、统一分析、统一告警、统一配置,提升数据安全防护的主动性和整体性。 02加强技术防护措施:采用数据加密、访问控制、身份鉴别、数据脱敏、安全审计等技术手段,确保数据在采集、传输、存储、处理、交换、销毁等全生命周期各环节的安全。 03完善数据安全运营与风险监控机制:实施安全合規管理,定期进行安全审计,强化医疗数据防泄漏措施,确保数据备份恢复系统的有效性,以应对潜在安全风险。 规范数据共享与开放流程 01建立健全数据共享管理制度:明确数据内外共享交换管理细则,严格账号权限管理,实施共享操作审计,对合作方进行背景资质审查,确保数据在共享过程中的安全可控。 02严格执行数据去标识化和标签化:在数据对外开放时,严格执行数据脱敏和标签化处理,遵循开放流程,加强对合作方的数据安全管理,防范数据滥用和隐私泄露风险。
数据安全和隐私保护将成为影响AI医疗乃至整个数字经济可持续发展的核心要素。对于医疗行业而言,数据安全不仅关乎患者的隐私权益和人格尊严,更关乎国家的生物安全和公共利益。因此,加强数据安全与隐私保护,构建全面动态的安全防护体系,已成为推动智慧医疗发展的重要保障。