Edtech Equity Project 解决 AI 学习工具中的种族偏见

快速阅读: 据《政府技术》最新报道，阿斯彭研究所指出，AI教育工具常忽视少数族裔学生需求。其推出《AI教育公平工具包》和采购指南，推动种族公平设计，并与数字承诺合作认证符合标准的工具。

据阿斯彭研究所发布的《教育科技公平项目》案例研究报告显示，上个月，阿斯彭研究所研究员尼迪·赫巴尔和麦迪逊·雅各布斯指出，许多由人工智能驱动的教育科技工具在设计时未充分考虑黑人和棕色人种学生的需求。这些学生占美国K-12学生人数的一半以上，但在教育系统中仍面临诸多不平等现象，如更频繁的停课、被分入难度较低的学术轨道以及“从学校到监狱的管道”。

为解决这一问题，阿斯彭研究所开发了三种资源。首先，推出了《AI教育公平工具包》，帮助教育科技公司在设计过程中考虑种族公平性，并通过数字承诺非营利组织为符合标准的公司提供认证标志。其次，发布了《学校采购指南》，指导采购负责人在校园内实施前评估教育科技工具的公平性实践。此外，赫巴尔和雅各布斯在2024年的政策指导文件中强调，学校和教育科技供应商需要共同努力，提高透明度和公平性，对抗种族偏见。

《AI教育公平工具包》建议产品团队明确人工智能工具的目标和价值观，评估人工智能是否是解决问题的最佳方案，并考虑算法偏差对种族公平性的潜在风险。工具包还建议团队在早期阶段发现偏见，确保工具能适应不同背景的学生，并在训练算法时进行测试。赫巴尔表示，希望公司能将这些活动和实践纳入标准开发流程中。

2021年底，该项目与数字承诺合作，推出了一项产品认证，用于评估那些“在整个设计和开发过程中以种族公平为核心”的工具。该认证基于工具包中的标准，为公平设计提供了行业标准。申请认证的公司需满足至少两种减轻偏见的方法等五个关键资格。

对于正在评估软件工具的K-12学区，《学校采购指南》提供了审计问卷和评分标准，帮助评估供应商在公平性标准上的表现。指南中包括了关于产品构建和测试、数据使用以及种族信息如何影响数据的问题。该指南强调，在采购过程中提出正确的问题，学校可以成为推动产品公平设计和开发的强大合作伙伴。

(以上内容均由Ai生成)