AI 正在改变医疗保健 — 该法律可以帮助保护创新和患者
快速阅读: 据《哈佛法学院》称，哈佛大学教授格伦·科恩探讨了人工智能在医疗中的应用及其带来的伦理和法律挑战，如数据隐私、患者同意及责任划分等问题，并指出现行法律在应对这些变化时存在不足，需平衡创新与安全。
你会与心理聊天机器人治疗师交谈吗？你是否对辅助型人工智能工具感到满意，这种工具有助于筛查心脏病？那么，提出一种可能挽救生命的非传统治疗方法呢？
无论你对医疗保健和研究中日益增长的人工智能使用是本能地抗拒还是欢呼，有一件事是可以肯定的：变革即将到来，开始思考我们希望法律如何应对这些变化是个好主意。哈佛大学法学院的詹姆斯·A·阿特伍德和莱斯利·威廉姆斯法学教授格伦·科恩’03说。科恩最近在医学期刊《JAMA》上共同撰写了一篇论文，关于由这类工具之一——环境聆听应用程序——引发的伦理和法律问题，这些应用程序帮助医护人员在患者就诊时记录和做笔记。
但科恩同时也是哈佛大学佩特里-弗洛姆健康法政策、生物技术和生物伦理中心的教员主任，他说人工智能正在以许多其他方式融入医疗保健领域，包括研究、医学影像和分析，甚至诊断和治疗。由于许多人工智能模型能够解析大量数据，甚至可以边学习边进步，这些技术有可能为数百万人改变护理方式，科恩说。但它们也引发了众多问题。
人们应该对自己的健康信息有多少控制权？医疗服务提供者在使用人工智能进行治疗时（即使只是为了记录就诊期间发生的事情）是否必须告知患者？那些用于训练人工智能的数据贡献者是否应从中受益？在接受《哈佛法律今日》采访时，科恩描述了人工智能正在如何以令人惊讶的方式改变当今的医疗保健，并且我们可以如何利用法律来平衡创新与安全、可靠和公平的医疗需求之间的关系。
**信用：Asia Kepka《哈佛法律今日》**
：让我们从基础开始。目前人工智能在医疗保健和医学中是如何使用的？
格伦·科恩：我会给你举几个例子，但我要指出的是，我们看到它被用于各种各样的方式。假设有人做了结肠镜检查并发现有病变。我们可以用人工智能来帮助确定这个病变是恶性还是良性。或者考虑一个通过体外受精尝试怀孕的人。促卵泡生成素的剂量有很大的变化，人工智能可以帮助确定一个起始剂量。它还可以帮助确定哪些胚胎植入可能会有最大的成功怀孕机会。
还有心理聊天机器人，有些是专门为心理健康领域设计的，其他的则是更通用的——例如大型语言模型。然后还有斯坦福高级护理计划算法，有时被称为“死亡算法”，因为它在斯坦福医院用于预测患者的三到十二个月全因死亡率。其想法是，某个分数会触发与医生讨论临终关怀的对话。
还有一种叫做ID XDR的东西，是为糖尿病性视网膜病变开发的，它可以相对自主地用于筛查决策。我们现在看到的另一个常见现象是所谓的环境监听或速记。其理念是，不是让医生在与病人见面时一边打字一边看你，而是设备记录对话，然后使用人工智能进行总结。然后，医生应该在最终定稿并进入你的病历之前审查它。
**HLT**：我们需要或将来需要面对的与医学中使用人工智能相关的重大伦理考虑是什么？
Cohen：我认为可以从构建过程的相关步骤来考虑这个问题。第一个关注点是患者治理和患者对其数据的权利。例如，数据来自哪里？需要什么样的同意？我们需要做多少识别？数据隐私的风险有多大？数据集有多具有代表性？我是一个白人男性，在40多岁，住在波士顿。对于用于医学机器学习训练的数据大多来说，我是正中心。但这并不适用于所有人，特别是如果我们扩大范围到美国以外的低收入和中等收入国家。
一旦你建立了一个模型，就会有关于我们如何知道它已经准备好在真实患者身上使用的问题。谁来进行验证，哪个监管机构或监管机构组合可能会查看它？我们如何处理不同国家的监管结构？你能对数据有多少透明度？你如何处理关于商业秘密和知识产权的问题？
一旦你准备在现实世界中的患者身上使用模型，这些患者需要被告知什么？需要什么样的同意？我们如何知道在新的环境中部署是否会带来额外的影响或模型质量的变化？人工智能在运行过程中应该学习多少，或者它应该是像“工厂设置”一样静态的——换句话说，是适应性的还是锁定的？再次强调，如果有人抱怨存在歧视或偏见，那里的相关法规或诉讼形式是什么？
最后，还有一些我称之为“广泛传播”的问题。你已经有了成功的模型。我们如何确保所有为模型贡献数据的患者都能从中受益？你如何确保我们可以扩大规模，真正实现专业知识的民主化？
**HLT**：早些时候，你提到了环境聆听工具，这些工具旨在帮助医护人员在护理期间。你最近为《JAMA》撰写了一篇文章，关于这些模型涉及的法律和伦理问题。你最大的担忧是什么？
Cohen：首先，我想明确的是，我们将这些工具与基线进行比较，即医生试图在看病人时提问并记录答案——这并不理想。有很多干扰。医生无法进行眼神交流。这很累人。即使是人类速记员也会出错。所以，我不想让人们认为只有人工智能引入了问题。
环境速记设备存在的问题之一是转录错误——医生说“0.5毫克”，但捕捉到的是五毫克。这对药物及其可能对患者产生的影响来说是一个很大的差异。还有一个问题是幻觉，即工具生成了并非谈话内容的一部分文本。
另一个问题是，环境速记设备通常不受FDA监管。相反，私营公司是做出关键决定的一方。我们还知道，从其他形式的人机交互中，自动化偏见确实是一个严重问题——这意味着随着时间推移，人们不太可能发现错误或不同意所写的内容。因此，存在错误未被发现的风险。
首先，我想明确的是，我们将这些工具与基线进行比较，即医生试图在看病人时提问并记录答案——这并不理想。有很多干扰。医生无法进行眼神交流。这很累人。即使是人类速记员也会出错。所以，我不想让人们认为只有人工智能引入了问题。
知情同意在这里也很重要。这是关于录制某人的内容——在许多司法管辖区，实际上法律规定必须获得所有参与谈话者的同意，如果没有这样做，可能会面临刑事或民事处罚。此外，患者可能有关于他们的信息如何存储、谁将访问这些信息或他们的临床医生是否会审查这些问题的顾虑。这些数据会被用来训练未来的AI吗？患者对此有何感受？以及患者重新识别的风险有多大？
然后还有关于敏感内容的问题。并不是每次与医生的谈话都涉及敏感内容，但如果涉及药物滥用、家庭暴力或犯罪活动等内容，患者可能会对这些问题有特定的担忧。你可能需要制定协议，在这些话题出现时删除或关闭工具，并提前想好如何操作。
**HLT**：作为一名诉讼律师，你也有一些关于环境监听工具如何影响医疗过失诉讼的想法。它们是什么？
Cohen：一方面，这些工具可能会对医疗服务提供者生成的患者记录数量产生影响。作为提供者，你想要避免所谓的“影子记录”。使用这些工具时，有录音本身、AI摘要以及医生签字确认的版本。如果这些版本之间存在分歧会发生什么？如果你在诉讼过程中到达取证阶段时有三个不同的记录会发生什么？
我认为医院系统应该将未签字确认的版本视为草稿，并提前制定保留和销毁政策。
**HLT**：我们的法律目前准备得如何来应对你所指出的一些挑战？
Cohen：某些法律形式——比如过失法——已做好准备。但现有法律能否给出正确的答案是另一个问题。迄今为止，涉及人工智能过失的案件少之又少。当我与过失保险公司交谈时，他们也告诉我收到的索赔很少。我们还不知道这是因为它的采用正在增加，还是因为它已经存在了一段时间。
然而，以医疗过失中的护理标准作为过失责任违反的标志，这种方式可能会导致某种保守主义。2019年，我们在《JAMA》上发表了一篇论文，指出了这一点。设想一个简单的案例：你有一个针对卵巢癌的标准化疗剂量。在特定情况下，人工智能建议了一个更高的剂量给某个女性。这是人工智能的目标之一：能够进行更多个性化，因为它可以分析多个多模态数据集。
问题是，在过渡期间，如果你是一名医生，你知道自己只会在a.发生伤害，但b.没有遵循标准护理时承担责任。这鼓励了一种保守主义。也就是说，如果人工智能告诉你要做的正是你本来打算做的——即标准护理——你会认为这是一个出色的AI。但如果人工智能告诉你做的是你本来不会做的事情，你可能会开始紧张，甚至可能会抵制它。
这意味着，护理标准的保守性可能会为医生采用人工智能创造障碍。现在，我们已经看到了其他新技术的故事。如果你看看核磁共振成像、X光和CT扫描，也有过一段时期它们都不是标准护理的一部分。它们被引入后，起初可能有一些阻力。但现在，如果你因为只是看了看病人就说‘好吧，我用老方法’而没有订购核磁共振成像，你可能已经违反了护理标准。
我们最终可能在医学人工智能领域达到类似境地。但医学侵权法的历史表明，这个过程往往是缓慢的。
**HLT**：目前法律是否存在重大空白？
Cohen：目前在美国使用的大多数医学人工智能都不在FDA的管辖范围内，这要么是因为国会如何在《21世纪治愈法案》中编写了这一管辖权，要么是FDA自身对该领域的自由裁量权解释。因此，很多东西，尤其是那些嵌入电子健康记录系统中的东西，永远不会被FDA审查。也许会有事后通过侵权法或其他监管机构进行一些监管。但大部分是由自我监管完成的，后面可能存在责任风险。
有人认为我们不应该过度监管，这没问题，但区分哪些应该受到监管而哪些不应该的界限并不理想。它是基于“什么是设备”或“什么不是设备”，而不是“什么是最高风险类别与最低风险类别”。这是我认为这种做法的一个大漏洞。
**HLT**：有没有技术的例子曾经颠覆了医学实践的方式？法律是如何适应这种创新的？
Cohen：之前我提到过成像，我认为这是一个很好的例子。我们还看到基因检测领域发生了很大变化。我们可能对它有些过度宣传。但在一段时间内，我们知道的人类基因组比现在少得多。现在，在生育领域，遗传学变得更加重要。在那项技术之前，遗传咨询师作为一个职业并不存在。但随之而来的是新的问题。
例如，一旦我们开发出良好的遗传疾病测试，就会有一系列案件提出这样的问题：如果你是一名医生，你的患者对某种可遗传的疾病测试呈阳性反应，而且还需要某种早期干预，而你没有进行干预，这个人是否有风险？如果医生不愿意披露，你对家属有什么义务？
这与其他警告义务的类比包括传染病，甚至在精神病学背景下也是如此。我的感觉是，从中期到长期来看，通过自我监管与法定及监管法律的结合，法律通常能很好地适应这些技术。但在短期内，可能会有很多混乱和很多问题。
这也让我的工作充满挑战与趣味。想了解哈佛法律今日的最新资讯吗？请订阅我们的每周通讯。
**订阅哈佛法律今日通讯**
想随时了解哈佛法律今日的最新动态吗？请订阅我们的每周通讯。
**订阅哈佛法律今日通讯**
(以上内容均由Ai生成)
