手术知情同意中的模拟同理心：AI 应该安慰患者还是仅仅通知他们？
快速阅读: 据《英国医学杂志》最新报道，本文探讨在手术知情同意中使用大型语言模型的机遇与伦理挑战，强调真实人性化沟通的重要性，避免误导患者或操控决策，呼吁尊重患者自主权和信任建立。
普拉纳布·鲁德拉 著
在医疗保健中使用人工智能正在迅速扩展，这引发了关于其在知情同意过程中扮演角色的关键伦理问题。知情同意既是信息交流，也是情感交流，而任何偏离真实、以人为本的沟通方式都可能带来深远的伦理影响。这种关注至关重要，因为知情同意不仅涉及信息传递，还需要真诚的人类情感连接。为什么这很重要？知情同意不仅仅是形式上的程序，它是患者与医疗服务提供者之间信任的基础。当患者面临重大手术决定时，他们不仅需要清晰、准确的信息，还需要真诚的情感支持来帮助他们应对恐惧和不确定性。机器可能提供这种支持的想法，即便看似富有同情心，也挑战了我们对医疗的传统理解。它提出了关键问题：知道聊天机器人无论多么令人信服实际上并不具备真正的情感，是否道德上可以依赖模拟的同情心？这样的方法是否会无意中误导患者，给予他们虚假的安全感，甚至更糟地，以微妙的方式操纵他们的决策？我进入这个话题的旅程始于我在汉诺威医学院参与“我的医生、人工智能和我”项目的期间。在那里，我对人工智能，尤其是聊天机器人及其在医疗环境中如何改变我们与技术互动的方式越来越感兴趣。我开始质疑模拟同情的伦理意义。我们应该接受这些情感线索为真实的吗，还是应该拒绝它们，因为真正的同情本质上是人类的？这些问题促使我撰写这篇手稿，旨在揭示在手术知情同意中使用大型语言模型（LLMs）的机会和伦理陷阱。
更令人振奋的是，这类聊天机器人原型已经处于开发阶段。想象一个平台，在这个平台上，面对复杂手术决定的患者可以与一个人工智能驱动的知情同意辅助工具进行互动，该工具不仅根据他们的具体状况个性化信息，还能解答疑问并填补信息缺口。在这种设置下，模拟的同情心和痛苦识别不再是流行语——它们是决定系统能否有效支持患者和医生的关键组成部分。
简而言之，本文探讨了LLMs是否以及应否在如此敏感的医疗互动中发挥作用。它讨论了这些系统如何提供一致且清晰的信息，甚至在患者的病情需要人为干预时发出警告，而不跨越到欺骗性地模拟真正同情的界限。这种探索不仅仅是学术研究；它关乎确保当我们把AI整合到医疗保健中时，我们这样做是以尊重患者自主权、建立信任，并最终改善医学中最具情绪挑战的方面之一——知情同意——的结果。
**论文标题**：大型语言模型在手术知情同意中的应用：基于模拟同情的伦理视角
**作者**：普拉纳布·鲁德拉、沃尔夫-蒂洛·巴尔克、蒂姆·卡普罗夫斯基、弗兰克·乌尔辛和萨宾·萨洛赫
**所属单位**：汉诺威医学院
**利益冲突披露**：无
—
大型语言模型在手术知情同意中的应用：
基于模拟同情的伦理视角
文 | 普拉纳布·鲁德拉
译 | 中国科技翻译团队
在医疗保健领域，人工智能正以前所未有的速度发展。然而，这一趋势也引发了一系列关键的伦理问题，尤其是在知情同意过程中，人工智能的作用显得尤为突出。知情同意不仅是信息的传递，更是情感的交流。任何形式偏离真实或忽视人性化的沟通方式，都可能带来深远的伦理后果。这种关注的重要性不言而喻，因为知情同意不仅仅是程序性的步骤，而是患者与医护人员之间信任的核心所在。
对于患者来说，当面临重大手术决策时，他们不仅需要准确的信息，还需要真诚的情感支持，以缓解内心的恐惧与不确定性。如果机器能够提供这样的支持，哪怕看似充满同理心，这也无疑是对传统医疗理念的一次巨大冲击。那么，问题来了：即使聊天机器人表现得极具说服力，但其缺乏真正的情感本质，这种模拟的同理心是否在道德层面可被接受？更重要的是，这种方式是否会误导患者，让他们误以为得到了真实的情感关怀，甚至被无形中操控决策？
我的思考始于参与汉诺威医学院“我的医生、人工智能和我”项目的过程中。在这个项目中，我对人工智能，特别是聊天机器人如何改变我们在医疗环境中的互动方式产生了浓厚兴趣。我开始反思模拟同理心背后的伦理意义。我们应该认可这些情感线索的真实性吗？或者，我们应该坚持认为真正的同理心只能属于人类？
正是出于这样的思考，我撰写了这篇论文，旨在揭示在手术知情同意中使用大型语言模型（LLMs）所带来的机遇与潜在的伦理陷阱。目前，这类聊天机器人原型已经在研发中。设想一个未来场景，患者在面临复杂手术时，可以通过一个由人工智能驱动的知情同意辅助工具与其互动。这套系统不仅能根据患者的实际情况提供个性化信息，还可以回答疑问、填补知识空白。在此背景下，模拟的同理心与情感识别不再只是概念上的讨论，而是决定系统能否有效支持患者和医生的关键因素。
总而言之，本文深入探讨了LLMs是否适合应用于如此敏感的医疗场景，并分析了它们如何提供一致且清晰的信息，同时在必要时提醒人工介入，而不跨越欺骗性地模仿真正同理心的底线。这项研究不仅具有学术价值，更关乎如何在引入AI技术的同时，确保对患者自主权的尊重、信任的建立，以及对知情同意这一医学中最富情感挑战环节的改进。
**论文标题**：大型语言模型在手术知情同意中的应用：基于模拟同情的伦理视角
**作者**：普拉纳布·鲁德拉、沃尔夫-蒂洛·巴尔克、蒂姆·卡普罗夫斯基、弗兰克·乌尔辛、萨宾·萨洛赫
**所属单位**：汉诺威医学院
**利益冲突披露**：无
(以上内容均由Ai生成)
