构建残障人士包容性 AI 生态系统：跨残障、跨系统的最佳实践分析

快速阅读: 《民主与技术中心》消息，2021年，美国残疾人协会（AAPD）与民主与技术中心（CDT）联合发布了题为“将残疾纳入技术政策：问题景观及行动潜力”的报告。该报告探讨了技术政策对残疾人群体的影响，并提出在倡导活动中纳入残疾视角的建议。此外，该报告还强调了AI和算法系统中残疾人面临的歧视风险，呼吁将残疾人置于技术创建和治理的核心位置。

AAPD的亨利·克莱珀联合撰写了这份报告。CDT报告的插图，标题为“构建包容残疾人的AI生态系统”。插图中有一台主机计算机，周围是显示残疾人不同情境数据系统的网页窗口和数据块。从上到下，从左到右：穿蓝色衬衫戴耳机的人；穿橙色衬衫的人；穿绿色衬衫戴鼻胃管的人；穿紫色衬衫有肢体差异的人。2021年，民主与技术中心（CDT）和美国残疾人协会（AAPD）发布了一份名为“将残疾纳入技术政策：问题景观及行动潜力”的报告。这标志着AAPD与CDT在确保残疾人充分参与技术政策领域工作的重要里程碑。该报告为技术政策倡导者提供了关于技术问题的概览，这些问题对残疾人影响不成比例，并提出了如何在倡导活动中纳入残疾视角的建议。自该报告发布以来，CDT和AAPD扩大了合作范围，共同致力于提高公众意识并提供有利于残疾人与技术互动（尤其是人工智能和算法系统）的政策解决方案。这份报告（与简短摘要同时发布）通过具体提出针对残疾社区成员、残疾人权利和正义倡导者、政府机构以及私营部门AI从业者的建议，进一步推进了这一重要工作，旨在确保残疾人能够享受AI和算法技术带来的好处，同时受到保护免受其风险。该报告通过几个主要系统（就业、教育、政府福利、信息通信技术、医疗保健、交通和刑事司法系统）中残疾人与技术互动时的主要关切领域来呈现。其中一些系统（包括就业、教育、执法和医疗保健）在《将残疾纳入技术政策》报告中已有简要介绍，本报告对此进行了扩展；有些领域则是全新的。当然，这些并不是唯一影响残疾人权利的领域。然而，为这些高风险领域的残疾人提供包容性建议，可以作为一项有用的资源，延续AAPD和CDT在此领域的早期工作。在反多元化、平等、包容和无障碍措施显著增加以及联邦政府监管雄心显著降低的情况下，CDT和AAPD此时进行这项工作，尤其是专注于联邦机构的建议，似乎是一个奇怪的时间点。然而，确保残疾人被适当考虑在AI技术和法规的发展中，现在仍然像2021年一样重要。此外，至少部分面向联邦机构的建议也可能适用于州级和地方级机构。即使短期内机构不采取这些建议，它们在未来创建包容残疾人的AI生态系统的努力中仍可能成为有用的参考点。残疾人与AI和算法系统互动时面临特定的歧视风险，原因有几点。首先，许多AI和算法工具基于模式识别训练，并根据任何特定数据集中的典型模式做出决定。然而，许多残疾人（由于其残疾）存在于典型模式之外——他们可能有步态差异、声音差异、非典型眼球运动等。这些工具可能会无意中歧视这类残疾人，尤其是在依赖生物特征输入时。其次，AI和算法技术基于从数据集（有时称为“训练数据”）派生的输入生成输出。通常，这些数据集并未充分包含残疾人——它们可能有关于残疾的不准确数据，低估样本或错误标记与残疾相关的信息。所有这些都可能导致歧视残疾人的AI工具，并可能促成负面结果。第三，许多残疾人是多重边缘化群体，即他们既是残疾人又属于另一个边缘化群体（如有色人种残疾人或残疾LGBTQ+人士）。许多AI和算法工具已被证明对其他边缘化群体构成独特风险，这意味着多重边缘化残疾人因与这些工具互动而面临歧视性结果的风险尤为突出。出于这些原因及其他更多原因，这种伙伴关系是减轻技术驱动的残疾歧视潜在危害的重要一步，同时促进创新，使残疾人能够开发有益的技术工具以茁壮成长。残疾人可以从AI、算法工具和其他技术中受益。但这些工具也可能成为歧视的媒介，特别是在涉及生物特征数据时，对于可访问性、偏见和隐私的担忧普遍存在。确保残疾人被置于这些技术及其治理政策的创建、部署和审计的核心位置，有助于最终实现这些工具对所有人承诺的益处。阅读完整报告。

(以上内容均由Ai生成)