用于治理医疗保健 AI 的“真正的生命周期方法”

快速阅读: 《外交信使》消息，人工智能正迅速改变医疗，但需确保其安全与伦理。哈马德·本·哈利法大学提出“真正的生命周期方法”（TLA），强调从研发到应用的全过程监管，保障患者权益。GCC国家在AI治理上取得进展，可为全球提供参考。

从医院病房到健康应用程序，人工智能正在迅速改变医疗保健的提供方式。人工智能的普及速度令人目不暇接——比如西德斯西奈医院在苹果Vision Pro设备上的健康应用程序，或者西门子在精准医学、预测分析等领域的应用。随着技术的不断发展，规范其使用的框架仍然支离破碎。法律向来落后于技术创新。这引发了一个严肃的问题：我们如何确保医疗AI是安全的、符合伦理的，并赢得患者的信任？为了解决这个问题，哈马德·本·哈利法大学法学院的研究人员提出了一种新的治理模式。“真正的生命周期方法”（TLA）基于这样一个理念：人工智能应在研究、设计、实施和监督的所有阶段进行监管。其核心是一个简单的前提：患者应始终优先。治理应将医疗法律和伦理贯穿始终，而不能忽视患者。

为什么需要TLA？读者可能会停下来争辩说，已经有针对人工智能的治理框架，例如美国食品药品监督管理局（FDA）和欧洲药品管理局（EMA）制定并更新的框架。这些方法仅关注批准人工智能医疗设备进入市场。对公众构成更大风险的设备必须经过更多的检查和批准才能获得批准。问题是，这些框架并未充分考虑医疗人工智能的全部复杂性。它们忽视了知情同意、医疗过失责任和其他患者权利等重要问题。这些框架还将人工智能视为一种技术工具，而不是深刻影响人类生活的事物。

相比之下，TLA建立在医疗法律和伦理基础上，强调医疗照护标准、患者隐私、同意事项以及对文化与宗教多样性的尊重。这些价值观在海湾合作委员会（GCC）国家中尤为重要，这些国家居住着多种外籍人口。

TLA有三个核心治理阶段，从研究与开发（R&D）开始。这一阶段从人工智能概念的最初阶段就奠定了法律和伦理人工智能的基础。例如，在卡塔尔，HBKU与公共卫生部共同合作制定了《医疗人工智能开发研究指南》。这些指南鼓励开发者遵循详细流程，并记录人工智能系统的用途、范围和预期用途。重要的是，研究人员应从一开始就考虑伦理和法律问题，比如遵守关于医疗数据的数据保护法。

第二阶段关注系统审批。虽然并非所有医疗人工智能工具都需要监管审批，但监管机构仍然应拥有更广泛的权力，以确保医疗人工智能达到严格的安全标准。目前，全球的监管机构都缺乏这种权力，但在沙特阿拉伯，它在海湾地区取得了进展。通过其发布的《MDS–G010 人工智能医疗设备》指南，沙特食品和药物管理局的标准优于其他监管机构，融入了伦理标准以及关于自适应算法、透明度和上市后监测的规定。再次说明，这并不涵盖所有医疗人工智能设备，但它表明治理可以进一步发展。

TLA的最终阶段关注人工智能在实际使用中的情况。规则不仅应规范研究人员和开发者，还应规范医疗机构、保险公司以及其他使用人工智能的实体。为此，阿布扎比和迪拜推出了具有约束力的政策，不仅限于建议，而是要求进行审计、验证人工智能以及患者反馈机制。

一个意外的案例分析显示，海湾合作委员会（GCC）各国正在重视AI投资，包括医疗人工智能治理。区域政府在人工智能治理生命周期的不同阶段取得进展。然而，如果从整体来看，他们的努力体现了“真正的生命周期方法”（TLA），涵盖了人工智能治理的整个范围。事实上，海湾合作委员会（GCC）在全球模型方面具有独特优势，可以率先推行这种方法。成员国拥有集中的治理体系和多样化的人口，需要能够考虑到语言、宗教及其他因素的文化敏感性的技术。结果可以是一个既尊重全球规范又满足本地需求的治理生态系统——这一方法可能在未来几年内为全球最佳实践提供参考。

在医疗环境中开发和部署人工智能的人员必须记住，人工智能不仅仅是一项技术项目，更是一个人类项目。尽管政策制定者和立法者决定如何监管这项技术，TLA提供了一条有原则的路线图，鼓励讨论如何最好地监管这项技术，将患者置于中心位置。

(以上内容均由Ai生成)