人工智能是性别歧视吗？人工图像如何在现实中延续性别偏见
快速阅读: 《射频 干扰》消息，联合国教科文组织警告，AI系统存在性别偏见，强化刻板印象。AI训练数据多为白人男性，导致女性和少数族裔角色被低估。需增加女性及多元背景开发者，加强STEM领域女性引导，以减少偏见，促进创新与公平。
了解更多
只需向像稳定扩散（Stable Diffusion）或达利-伊（Dall-E）这样的图像生成AI工具发出简单请求，就能展示这一点。当给出诸如“经营公司的形象”或“经营大型餐馆的人”或“从事医学工作的人士”的请求时，每次出现的都是白人男性的形象。当这些程序被要求生成“护士”、“家庭佣工”或“家庭助手”的形象时，这些形象均为女性。
作为去年由联合国教科文组织（UNESCO）发布的一项研究内容之一，研究人员要求各种生成式AI平台编写包含不同性别、性取向和文化背景角色的故事。结果显示，少数族裔文化或女性相关的故事往往更加重复且基于刻板印象。
报告指出，这些模型倾向于将更受尊敬和专业的工作归于男性——例如教师或医生，而常常将女性分配到传统上被低估或更具争议的角色中，如家庭佣工、厨师或妓女。
为什么非洲大陆在发展人工智能方面扮演着重要角色
这些大型语言模型（LLM）工具所使用的广泛语言模式也倾向于将女性名字与“家”、“家庭”或“孩子”等词联系起来，而男性名字则更常与“商业”、“工资”和“职业”等词相关联。
因此，这些模型显示了对女性的明显偏见，教科文组织在一份新闻稿中警告说。
教科文组织通信与信息助理总干事塔维克·贾拉西（Tawfik Jelassi）表示：“现实世界中的歧视不仅反映在数字领域，它在那里也被放大了。”
社会的一面镜子
为了生成内容，生成式AI“训练在特定时间段内生成的数十亿份文档上”，法国国家数字科学与技术研究院（INRIA）的研究主任贾斯汀·卡塞尔（Justine Cassell）解释道。
她解释说，这样的文档，根据它们的产生时间，通常包含过时且带有歧视性的刻板印象，结果就是训练在其上的AI会传达并重复这些内容。
这适用于图像和文本生成器，但也适用于依赖数百万现有照片的面部识别程序。
从乳腺癌到艾滋病，AI如何将彻底改变医疗保健
2019年，美国联邦机构警告称，一些面部识别系统在正确识别女性方面遇到了困难，尤其是非洲裔女性——这对公共安全、执法及个人自由都有影响。
这也是工作场所的一个问题，在那里人力资源经理越来越多地利用AI辅助招聘。
2018年，路透社报道亚马逊不得不放弃一款AI招聘工具。原因是什么？该系统未能以性别中立的方式评估候选人，因为它基于公司收到的简历数据——主要是由男性提交的。这导致其拒绝女性求职者。
多样化数据
AI首先是一个数据的问题。如果这些数据不完整或只代表某一类人群，或者包含有意识或无意识的偏见，AI程序仍然会使用它，并大规模传播它。
“驱动系统的数据必须具备多样性，代表所有性别、种族和社区，这一点至关重要，”数据、技术和创新总监辛尼亚·德尔·比利亚尔（Zinnya del Villar）在数据-流行联盟（Data-Pop Alliance）智囊团中说道。
在接受联合国妇女署（UN Women）采访时，德尔·比利亚尔解释说：“有必要选择反映不同社会背景、文化和角色的数据，同时消除历史偏见，比如那些将某些工作或性格特质与某一性别联系起来的偏见。”
根据INRIA的卡塞尔所说，一个根本问题是，“如今大多数开发者仍然是白人男性，他们可能对偏见的存在不够敏感”。
“由人类为人类”：法国配音行业反对AI威胁
由于他们不受女性和少数族裔所遭受的偏见的影响，男性设计师往往对问题缺乏意识——而且88%的算法是由男性设计的。除了提高对偏见的认识外，研究人员还敦促该领域的公司雇佣更多多样化的工程团队。
“我们需要更多的女性编写AI模型，因为她们会问这个问题：这些数据是否包含异常行为或我们不应该在未来复制的行为？”初创公司埃贾拉（Ejara）的首席执行官兼联合创始人内莉·查图·迪奥普（Nelly Chatue-Diop）告诉法国国际广播电台（RFI）。
女性代表性不足
根据世界经济论坛的数据，目前全球从事人工智能工作的人员中，女性仅占22%。
由Join Forces & Dare（JFD——前身为数字女性日）进行的欧洲AI晴雨表显示，在接受调查的公司中，只有29%的AI主管是女性。在全球范围内，女性占AI研究人员的比例为12%。
根据世界经济论坛的数据，目前全球从事人工智能工作的人员中，女性仅占22%。
“在AI开发中的多样性不足会强化偏见，延续刻板印象，并减缓创新，”报告警告说。
这一观察也得到了教科文组织的认同，它认为该领域女性的代表性不足以及在管理职位上的缺失“导致了不考虑所有性别多样需求和技术视角的社会技术系统的创建”，并加剧了“男女之间的差异”。
欧洲AI能否创造更统一的欧洲身份？
这两个组织都强调了确保女孩从小就被引导了解并进入STEM（科学、技术、工程和数学）领域的必要性——这些领域依然是男性主导的领域，其中高成就的女性往往被忽视。
随着AI应用越来越广泛地被公众和企业使用，“它们有能力塑造数百万人的看法”，教科文组织总干事奥德蕾·阿祖莱（Audrey Azoulay）指出。“哪怕是最轻微的性别偏见，也会显著加剧现实世界的不平等。”
教科文组织与众多该领域的专家呼吁在国际层面建立相关机制，在道德框架内规范该行业。
但看来这还很遥远。在这一领域拥有巨大影响力的美国未签署上个月发布的巴黎AI峰会宣言。英国也没有。
尽管英国政府表示声明在解决全球AI治理方面做得还不够，但美国副总统乔·拜登（JD Vance）批评了他所谓的欧洲对这项技术的“过度监管”。
本文改编自法语原文。
每日简报
每天接收重要国际新闻
订阅
通过下载RFI应用程序随时关注国际动态
(以上内容均由Ai生成)
