英国卫生服务 AI 工具为一名患者生成了一组错误诊断，导致他被错误地邀请参加糖尿病筛查预约

快速阅读: 据《财富》最新报道，一名伦敦患者因AI生成错误医疗记录被误诊，引发对AI医疗监管的担忧。NHS称此为人为失误，强调需加强AI工具审核。患者呼吁严格监管AI技术，确保安全可靠。

据《财富》杂志报道，近日，伦敦一名患者因AI生成的医疗记录错误，被误诊为患有糖尿病和疑似心脏病，随后被错误地邀请参加糖尿病筛查。这些由Anima Health公司开发的人工智能工具Annie生成的记录中，不仅包括虚假的病情描述，还涉及一个虚构的医院地址。英国国家医疗服务体系（NHS）官员称此为一次偶然的人为错误，但该事件引发了对人工智能工具在医疗领域使用和监管的广泛关注。

这名20多岁的健康男性在收到糖尿病眼底检查的预约信后，感到困惑和担忧。在一次常规血液检测中，护士对他的糖尿病诊断提出疑问，患者这才意识到问题所在。经过详细审查，发现AI生成的记录中错误地标注了他患有2型糖尿病，并正在服用相关药物，但这些信息均不属实。

NHS发言人马修·诺布尔博士表示，这次错误是由于全科医生诊所在“有限地使用受监督的人工智能”时，医疗摘要员分心导致的。尽管AI工具的输出需经人工审核，但这次显然未能有效防止错误记录的产生。

这一事件反映出人工智能在医疗行业推广过程中面临的挑战。尽管AI技术有望提高工作效率、降低成本，但其潜在的风险也不容忽视。特别是在涉及患者安全和隐私保护的高风险环境中，严格的监督和管理显得尤为重要。

英国卫生服务部门正在加强对人工智能技术使用的审查。上个月，卫生服务部门负责人警告称，一些未获批准的AI软件可能违反数据保护规定，危及患者安全。NHS英格兰已发出通知，要求各医疗机构确保使用的AI工具符合最低标准，否则可能对患者造成伤害。

Anima Health公司目前正申请IIa类医疗设备认证，以适应更严格的监管要求。英国政府也在积极推动人工智能在医疗保健领域的应用，希望借助这项技术改善国家医疗体系。然而，如何在促进技术创新与保障患者安全之间找到平衡，仍是当前亟待解决的问题。

回顾自己的经历，这位患者表示：“我认为我们应该使用AI工具来支持NHS，它有巨大的潜力节省资金和时间。但同时，我们也需要对大型语言模型的使用进行严格监督，确保技术的安全性和可靠性。”

(以上内容均由Ai生成)