这份报告是澳大利亚政府对医疗保健领域安全和负责任的人工智能 (AI) 立法和监管进行审查的最终报告。报告审查了澳大利亚现有的立法框架，并通过公众咨询收集了利益相关者的意见，以评估AI在医疗中的应用对现行法律法规的影响，并探讨了非监管措施的潜在作用。报告的重点在于识别现有立法框架中的差距和不足，并提出建议以促进AI在医疗领域的更安全、更负责任的应用。

报告首先概述了澳大利亚政府 AI领域的整体战略，即在获取AI效益的同时，建立公众信任。政府采取了五项行动方案：提供监管清晰度；支持和推广最佳实践治理；支持AI能力建设；将政府定位为典范；以及开展国际合作。2024-25年预算拨款用于对消费者、版权和医疗保健法律进行优先审查，以了解其如何适用于AI。卫生部开展了公众咨询，旨在明确和加强澳大利亚医疗环境中 AI的立法和监管。

报告的核心是七项主要发现：

发现1：监管现状：澳大利亚医疗保健的监管是一个复杂网络，涉及州/地区和国家立法。现有国家框架（例如隐私法、消费者法、治疗产品法和医疗从业人员监管）对医疗中的AI产生影响。卫生部审查的立法大多是管理性质的，支撑着老年医护、医疗保险福利计划、药品福利计划、“我的健康记录”和医疗标识符等核心医疗卫生体系。这些立法可能需要进行一些小的技术性修正以增强清晰度。对于现有法规未涵盖的医疗产品，全经济范围的AI防护措施（包括上市前和上市后要求）可以提供清晰度，从而建立信任并促进创新。

发现2：国家AI医疗政策领导力：公众咨询确定需要国家和中央政策引导，以指导澳大利亚医疗领域AI的公平利益实现。普遍支持针对医疗保健复杂性的AI指南，扩展国家AI中心提供的现有建议。这可能包括关于以下方面的倡议：AI技术中敏感医疗数据的伦理、安全和负责任使用；在医疗保健服务中采用和实施AI的独特治理风险；了解AI对特定人群影响的证据基础；对具有广泛影响的新兴产品及时提供指导，以应对AI创新的快速步伐；以及AI对不同医学专业的的影响。

发现3：安全实施的资源和支持：在AI的安全和负责任实施方面存在知识差距。缺乏高质量的、最新的指南，以支持AI在医疗保健领域的循证实施，以及对医疗保健中人机交互的具体考虑。为了支持决策，关于如何在产品生命周期中评估和验证新AI技术的指导可以包括：AI使用环境的适用性评估；用于训练和验证的数据集的质量和相关性以及所用方法的评估；输出准确性的监测；满足特定人群和医疗卫生服务需求的产品选择支持；考虑人机团队的AI实施支持；以及在临床环境中实施AI的试验支持。

发现4：医务人员及消费者需要获得高质量的、可信赖的信息：一个集中化的、高质量的和可信赖的信息来源将支持消费者和临床医生对AI产品做出明智的决策。关于医疗保健中AI的低质量和误导性信息的存在会对决策产生不利影响。此外，使用AI生成有关医疗保健的信息可能会导致低质量的输出。获得关于医疗保健中AI的可信、准确、可靠和及时的信息来源将支持其安全和负责任的使用。

发现5：实现效益：目前缺乏证据来支持AI在医疗保健中的潜在益处。建立基础要素，例如具有各种定性和定量指标的效益框架，将为了解AI在医疗保健中带来的效益提供见解。这将使人们能够了解AI在医疗系统中最有效的地方，并支持投资决策和AI效益的公平分配。

发现6：加强数据和知情同意管理：需要在AI的整个生命周期中管理好数据和知情同意风险。法规应明确说明AI何时以及如何访问和使用数据，以及谁应对患者数据的负责任使用负责。需要明确谁拥有患者数据，并加强围绕AI使用数据的患者知情同意做法。治理框架需要解决与数据偏差、数据准确性、数据嵌入和数据访问相关的风险。一些回应指出，实施合成数据资源可能是解决与数据访问和医疗保健研究中数据表示相关的一些挑战的一种方法。包含数据治理措施和供应链透明度的全经济范围的强制性保障措施，可以在一定程度上减轻在高风险环境中使用AI的风险。

发现7：激励措施可以支持最佳实践：一个激励行业提供符合澳大利亚市场并适用的高质量AI技术的框架，可以鼓励最佳实践。激励最佳实践的AI开发以及提供高质量、准确性、安全性和适用性的实践，可以支持所有澳大利亚人实现利益。这也有助于降低低质量产品带来的危害风险。、

报告还讨论了公众咨询中出现的一些关键主题，包括AI的理解程度、偏差、同意和透明度、数据、证据基础和人机交互等。咨询结果显示，利益相关各方对AI的理解程度各不相同，许多人对AI的了解不足或依赖媒体信息。偏差、同意和数据安全是主要的担忧，许多受访者强调需要在AI产品开发中更好地代表澳大利亚人群，并确保患者对AI的使用知情同意。几乎所有受访者都认为，在涉及患者安全的高风险医疗场景中，必须有人工参与决策过程（“人机在环”）。

报告最后总结道，澳大利亚现有的立法框架在很大程度上能够适应AI的应用，但需要进行一些技术性和定义上的修改以增强清晰度。此外，全经济范围的AI防护措施以及非监管措施可以进一步加强保障，以确保AI在医疗保健领域的更安全、更负责任的应用，并公平地实现AI带来的益处。报告强调了建立一个强大的证据基础、提供高质量的可信信息以及激励行业最佳实践的重要性。

如需要《安全可靠的医疗人工智能：立法与监管综述》（英文，29页）

特别声明：智慧医疗网转载其他网站内容，出于传递更多信息而非盈利之目的，同时并不代表赞成其观点或证实其描述，内容仅供参考。版权归原作者所有，若有侵权，请联系我们删除。

凡来源注明智慧医疗网的内容为智慧医疗网原创，转载需获授权。