在公共卫生领域部署 AI 的真正挑战不是技术，而是道德问题
快速阅读: 《BusinessDay NG》消息，文章探讨了医疗领域中AI面临的伦理挑战，指出偏见、黑箱问题和信任缺失阻碍了AI的应用。作者呼吁构建多元化团队、注重可解释性和透明度，强调AI应以人为本，关注公平与尊严。
引言：进步的幻觉
人工智能（AI）已迅速成为医疗领域最有前景的工具之一，能够推动诊断成像、预测疾病爆发、支持临床决策并实现移动健康干预。在医疗体系负担沉重的国家，AI以更少的资源做更多事情的潜力尤其令人兴奋。但随着研究人员和产品团队急于构建和部署这些AI工具，我们越来越面临一个令人不安的事实：采用的实际障碍不是技术性的，而是伦理性的。在过去几年里，我一直在AI、公共卫生及以用户为中心的研究交叉领域工作。我参与了评估移动健康技术项目的相关工作，探索了数字应用采用中的用户行为，并与开发人员和一线医护人员合作。几乎每个项目中都呈现出相同的规律：无论技术多么智能或高效，如果它不能建立信任，就不会被使用。我们常常过度聚焦于算法精确度、模型调优和流程优化，却忽略了提问：这个系统是否公平？是否易于理解？是否包容？是否合乎道德？医疗领域的AI不会因为糟糕的代码而失败，它会因为没有设计信任而失败。
偏见是内置的
AI中的偏见不是错误。它是人类系统的反映，在规模上被放大。在医疗领域，这一点尤为致命，因为决定直接影响诊断、治疗和结果。一个重大挑战在于用于训练健康AI系统的数据集存在多样性不足的问题。如果模型主要基于西方人口的数据进行训练，它在尼日利亚、印度或南美农村的表现会如何？答案是：通常表现不佳。在我们近期开展的一项评估移动糖尿病应用的研究里，我们分析了不同人群中的用户采用行为和决策模式。我们所观察到的现象发人深省：假设识字水平、智能手机行为甚至健康信念设计的应用程序往往无法引起真实用户的共鸣。技术本身并没有问题，而是视角有问题。它未能准确反映目标用户的真实情况。当偏见被植入数据之中时，模型可能会强化现有的不平等现象，包括皮肤科误诊深色肤色、低估边缘化群体的风险，或者由于代表性不足而完全错过模式。在某些情况下，这会导致直接伤害。在其他情况下，它只是削弱信任，尤其是在对机构医疗持怀疑态度的社区中。解决问题的关键不只是“更多数据”。而是更高质量的数据、更具包容性的实践，以及在模型开发过程中明确优先考虑哪些人的健康。
可解释性：黑箱问题
医学领域中的信任并非可选。当生命受到威胁时，患者及其医生有权了解为何提出某一建议。不幸的是，许多医疗领域的AI系统作为“黑箱”运行，提供高置信度的预测却没有人类可理解的理由。对数据科学家而言，这或许是性能与透明度之间的一种可接受平衡。但在医生或患者眼中，这是不可接受的。设想一下，你被告知根据模型预测你有患某种罕见病的高风险，却不清楚原因。或者因为AI系统将你标记为低优先级而被拒绝一项医疗程序，却无法看到或理解这些变量。在健康科技领域，可解释性不仅是一项技术特性，更是一种道德责任。在设计AI系统时，我们必须优先考虑的不仅是预测能力，还有可解释性。诸如SHAP值、LIME以及透明决策树等工具是朝着正确方向迈出的重要一步。更重要的是，我们必须设计界面与沟通流程，帮助普通民众理解输出结果。在公共卫生语境下，特别是在资源有限的情况下，这意味着需考量识字率、语言以及当地健康知识。
塞普莱特能源合资公司持续推进其“我能看见”项目
腐败：尼日利亚或许难以挽回
法国保乐利强尼日利亚公司向FRSC捐赠呼气检测仪和100件反光背心
前行之路：构建医疗领域的负责任AI
我们该如何突破空谈，着手构建真正负责任的AI系统呢？
首先，我们需要在种族、文化上多元化，同时在团队中包含患者、护士、临床医生、公共卫生专家和伦理学家。如果会议桌上所有人都是机器学习工程师，我们已经丧失了多元视角。其次，我们必须将可解释性融入模型全生命周期。用于阐明决策过程的工具应如同准确性指标一般严格检验。第三，我们应该像对待技术审计一样认真对待伦理审查。独立的伦理小组、透明度报告及社区顾问委员会有助于确保模型对其服务对象负责。最后，在全球健康背景下，我们必须与旨在帮助的社区共同创造AI系统。这意味着与当地研究人员合作，使用参与式设计方法，并调整模型以反映当地价值观和约束条件。公共卫生领域的AI不会仅凭技术优势取得成功。它是否会成功取决于人们是否相信它、理解它，并将其视为改善他们生活的善的力量。这不是一个设计挑战，而是一个道德挑战。我们必须超越以准确性为唯一衡量标准。我们必须发问：这一模型是否公平？是否尊重？是否透明？如果答案是否定的，我们必须有勇气暂停并重新思考。因为AI在医疗领域的未来并非关乎更智能的机器，而是关乎以设计赋予尊严。
奥尼耶库卢是一位专注于在技术和公共卫生交叉领域创造以伦理为中心的解决方案的AI研究员和数字健康创新者，热衷于推动全球健康科技领域的公平创新。
分享
加入《商业日报》的WhatsApp频道，保持最新更新
打开WhatsApp加入《商业日报》的WhatsApp频道，保持最新更新
(以上内容均由Ai生成)
