调查显示，医生正在使用未经批准的 AI 软件来记录患者会议

快速阅读: 据《天空新闻》称，英国NHS警告医生停止使用不符合标准的AI记录软件，以防数据泄露和安全风险。尽管AI有潜力提升效率，但需确保其安全与合规。

据天空新闻的一项调查，医生们正在使用不符合最低标准的AI软件来记录和转录患者诊疗。英国国家医疗服务体系（NHS）英格兰的负责人要求全科医生和医院停止使用可能违反数据保护规定的AI软件，以免对患者造成风险。本月，英国国家医疗服务体系英格兰总部发出的一份警告，是在该机构几周前向医生们介绍使用AI进行记录的好处之后发出的——目的是让医生有更多时间专注于患者。这种软件被称为“环境语音技术”或“AVT”。

卫生部长韦斯·斯特林格将在下周把人工智能作为改革计划的核心，这是英格兰卫生服务10年计划的一部分。然而，使用人工智能记录、转录和总结患者对话的软件正引发越来越多的争议。4月，英国国家医疗服务体系英格兰曾写信给医生，宣传AVT的优势，并提出了最低的全国标准。然而，在天空新闻看到的一封信中，NHS英格兰负责人写信给医生，警告称未经批准且不符合最低标准的软件可能会危害患者。

关于人工智能的更多内容：斯塔默的人工智能顾问辞职；视频游戏演员在美国的罢工结束，但AI被描述为对英国产业的“直接威胁”；ChatGPT是否正确地预测了支出审查？财政部部长给出他的评价。

相关主题：人工智能；NHS。

6月9日的信件由英国国家医疗服务体系英格兰的首席临床信息官发出，信中表示：“我们现在了解到一些AVT解决方案尽管不符合规定……仍然在临床实践中被广泛使用。”几家AVT供应商正在接触NHS组织……其中许多供应商尚未遵守基本的NHS管理标准。“继续使用不符合规定的产品可能会危及临床安全，导致数据保护违规、财务风险以及更广泛的NHS数字战略的碎片化。”

天空新闻此前曾揭示过AI“幻觉”的危险，即这项技术编造答案并对此撒谎，这在医疗环境中可能非常危险。

请使用Chrome浏览器以获得更易访问的视频播放器 1:59 ChatGPT尽管存在“幻觉”，是否可靠？

英国国家医疗服务体系英格兰设定了最低标准，但并未告知NHS信托机构和医疗机构应使用哪些软件供应商。天空新闻现在可以透露，NHS英格兰及其类似机构正面临越来越大的压力，需要更加积极主动。

英国医学协会全科委员会副主席大卫·里格利博士表示：“毫无疑问，作为一位全科医生，我和我的35,000名同事都有责任——但在这样一个快速发展的市场中，我们没有足够的技术知识去深入了解这一点。我们需要那些能够检查产品是否安全、是否适合在咨询室使用的人员的帮助和支持，NHS英格兰应该这样做并给予我们帮助和支持。”

里格利博士继续说道：“我们当然支持科技，并支持向前推进以帮助NHS患者和帮助我手术中的同事。但这必须以安全和保密的方式进行，否则就可能变成一场自由竞争——然后数据可能会丢失，可能会泄露出去，这是不可接受的。所以我们不是恐龙，我们非常支持AI，但它必须以安全和保密的方式进行。”

图片：NHS联合会负责人称这封信是“一个重要时刻”。

一些医疗专业人士担心，数十家鲜为人知但雄心勃勃的AI公司游说医院和诊所安装他们的语音采集设备。在这场技术竞赛中，利润巨大，但问题在于，数百个不同的NHS组织是否真的能分辨出哪些是骗子。

NHS联合会首席执行官马修·泰勒表示，这封信是“一个重要时刻”。他表示，NHS进行实验是正确的，但需要更清楚地说明哪些技术是安全且有效的。

加入天空新闻的WhatsApp，关注我们的频道，永远不错过任何更新。点击此处关注。

“我认为政府应该在采购决策方面提供帮助，并建议哪些AI系统——就像我们在医学中使用的其他技术一样——哪些是安全的，”泰勒先生说。“我们需要政府在这方面做更多的工作，以指导NHS如何最好地使用这些技术。”

当被问及短期内这是否意味着存在较大风险时，泰勒先生回答说：“你看到的环境语音技术就是那种‘百花齐放’的方法，它也有其局限性。”

请使用Chrome浏览器以获得更易访问的视频播放器 0:45 人工智能之父警告其危险。

今年早些时候，卫生部长似乎暗示未经批准的技术正在被使用，但他却将其视为医生渴望变革的标志。斯特林格先生表示：“我在酒吧里听说，确实是在酒吧里，一些临床医生已经走在了前面，他们已经开始使用环境AI来记录笔记等，即使他们的诊所或信托机构还没有跟上他们。这里有很多问题——不鼓励这样做，但这也告诉我，与人们不想改变、员工非常满意并抗拒改变的说法相反，事实恰恰相反。人们迫切需要这些东西。”

阅读更多来自天空新闻的内容：

对孕产服务展开全国调查；英国每个婴儿都将接受DNA检测。

图片：

全科医生安尼尔·梅塔表示，AI软件有助于减少文书工作，患者感到“非常安心”。

已经使用符合国家标准的AI的医生表示，他们已经看到了巨大的好处。健康部长伊尔福德选区的医生安尼尔·梅塔告诉天空新闻，他支持他的议员推动医疗保健中更多AI技术的使用。

“我每周花30%的时间在文书工作上，”他说。“所以我认为一旦我解释了我们所做的一切功能，患者都非常放心。我没有遇到任何人反对我这样做。”

他补充道：“(我)认为与医生的咨询是非常保密的，这一点完全没有改变。这仍然是保密的——所以无论是一个需要特别照顾的成年人、一个需要特别照顾的孩子、青少年，还是与父母一起的年轻孩子，我认为这种保密的概念仍然存在。”

NHS的一位发言人表示：“环境语音技术有潜力改变护理方式并提高效率。4月，NHS发布了指南，以安全和保密的方式支持其使用。我们正在与NHS组织和供应商合作，确保在整个卫生服务中使用的所有环境语音技术产品都符合NHS在临床安全和数据保护方面的标准。”

(以上内容均由Ai生成)