科技行业的多元化危机正在将偏见融入 AI 系统

快速阅读: 《经济时报》消息，玛雅·德洛斯桑托斯作为非裔拉美女性，希望在AI领域打破现状。专家指出AI需更多多元视角以减少偏见。联合国教科文组织数据显示，全球AI从业者中女性仅占26%。

作为一名拥有计算机和电气工程学位的非裔拉美女性，玛雅·德洛斯桑托斯希望打破现状，在由白人男性主导的AI领域中开创自己的事业。专家和观察人士表示，AI需要她。他们警告说，AI系统中固有的观点和偏见，无意中由其创造者灌输进去，可能使这个快速增长的数字工具在招聘流程、医疗保健、金融和执法等重要决策领域变得具有风险。

“我对AI职业感兴趣，是因为我想确保边缘化社区能够了解AI的危险和风险，并且知道如何从中受益。”德洛斯桑托斯是一位第一代美国大学生说道。“社会中存在的不公平和偏见正在被复制到高风险的AI场景和环境中，并且没有经过更多的批判性思考就被信任了。”

据联合国教科文组织（UNESCO）报告，女性仅占AI劳动力的26%，全球大学AI系中80%的终身教职职位由男性担任。2022年乔治城大学的一项人口普查数据分析显示，黑人和西班牙裔在AI劳动力中也代表性不足。该报告指出，在AI技术岗位中，西班牙裔仅占约9%的职位，而他们在全美所有职位中所占比例超过18%；黑人员工约占技术AI岗位的8%，而在全美所有职位中则接近12%。

AI偏见问题

德洛斯桑托斯即将开始在罗得岛州普罗维登斯市布朗大学的人机交互博士项目学习。她说，她不仅想学习如何向边缘化社区教授AI技术，还想了解隐私问题以及AI偏见——也称为算法或机器学习偏见——这种偏见会产生反映并延续社会偏见的结果。

例如，软件工程师在创建解决问题的方法时，往往会将自身的视角和通常有限的数据集融入其中，导致偏见无意中渗入某些AI系统。亚马逊公司曾取消了一个AI招聘工具，因为它发现该工具倾向于选择男性简历而非女性。该系统是通过观察过去十年内提交给公司的简历模式来筛选申请人的，大多数申请人是男性，这反映了整个行业男性占多数的情况，因此系统实际上学会了认为男性候选人更优。

AI4ALL创始人兼首席执行官泰丝·波斯纳表示：“当来自更广泛生活经历、身份和背景的人参与塑造AI时，他们更有可能识别出不同的需求，提出不同的问题，并以新的方式应用AI。”

“包容性使AI创造的解决方案对更多人更加相关，”波斯纳说。

推动多样性

自2015年以来，AI4ALL已帮助7500名学生克服障碍进入AI行业，其中包括德洛斯桑托斯。这家非营利组织通过针对历史上代表性不足的群体，旨在实现AI劳动力的多元化。

根据LinkedIn的数据，AI工程师职位是全球增长最快的职位之一，也是美国和英国增长最快的职位。波斯纳表示，促进多样性意味着从教育早期阶段开始，扩大儿童接触计算机科学课程的机会。目前，大约60%的公立高中提供此类课程，但黑人、西班牙裔和美洲原住民学生更少有机会接触到这些课程。

她表示，确保来自代表性不足群体的学生了解AI作为潜在职业的可能性，创造实习机会并与导师对接至关重要。

努力让AI更能代表美国社会的努力正与唐纳德·特朗普总统对联邦政府、高等教育和企业层面的多样性、公平与包容（DEI）项目的反对相冲突。美国政府的DEI办公室和项目已被取消，联邦承包商被禁止在招聘中使用“平权行动”。

从高盛到百事公司，许多公司都暂停或削减了多样性计划。

加州大学洛杉矶分校教授、韧性与数字正义中心创始人萨菲娅·诺布尔表示，她担心政府对DEI的攻击会削弱为边缘化群体创造AI机会的努力。

“压制任何公民权利进步的一种方式，就是指责科技和社会媒体公司过于接受公民权利和人权的信息，”诺布尔说。“你可以看到他们对‘黑人的命也是命’等运动的反对，以及对保守派偏见的指控，这都是证据。”

她说道。

据联合国教科文组织称，从2021年到2024年，全球从事AI工作的女性人数仅增长了4%。尽管进展缓慢，波斯纳表示她持乐观态度。