AI应与薪酬平等同受严格标准
快速阅读: ThoughtSpot的简·史密斯认为，薪酬审计促进公司多元化和效率，偏见审计可为人工智能系统带来类似效果。目前，人工智能已广泛应用于招聘、保险、信贷和医疗等领域，但其决策背后的偏见大多不可见，需通过定期偏见审计提高透明度，确保公平性。
薪酬审计促使追求这些审计的公司在多元化和效率方面取得进展，ThoughtSpot 的简·史密斯认为，偏见审计可以为人工智能系统带来类似的效果。（图片来源：Krot_Studio / Shutterstock）
薪酬差距报告规则并非凭空产生。它们源于一种认识，即不加以衡量的不平等将被忽视，而透明度是推动变革的必要杠杆。
然而，许多满足这些报告要求的组织正在引入可能将不平等嵌入日常决策的人工智能系统。这些工具现在决定谁被雇用或晋升，保险费用是多少，能否获得贷款，甚至医生办公室的诊断。但与薪酬数据不同，这些决策背后的偏见大多不可见。
如果公平可以用货币衡量，为什么不能用代码来衡量职业生涯、服务获取甚至健康结果的公平性？既然我们已经接受了报告薪酬差异的必要性，是否也应该将同样的逻辑应用于人工智能中的偏见？
人工智能已经在做出重要的决策
人工智能已经嵌入日常决策机制。在招聘中，算法筛选简历，排名候选人，甚至进行初步面试。超过93%的财富500强首席人力资源官正在将人工智能整合到人力资源流程中，超过一半的人才招聘团队已经在使用自动化招聘工具。在保险业，动态客户细分和保费调整越来越多地交给旨在提高效率而非公平性的模型。类似的模式也在信用评分、医疗诊断和员工晋升中出现。
这些系统的数据很少是中立的。它通常反映了由数十年的社会、经济和人口偏见塑造的历史操作过程，人工智能可以在大规模上忠实再现这些过程。由于这些模型被认为是“数据驱动”和客观的，其输出往往带有不应有的权威光环，使得有偏见的结果更难察觉。
随着具有代理能力的人工智能系统被整合到工作流程中并开始实时影响决策，偏见不仅更难检测，也更难逆转。一旦根深蒂固，它可能会在多年内悄然塑造结果，直到被发现。如果会被发现的话。
性别偏见如何进入人工智能生命周期
由于人工智能已经在做出具有实际后果的决策，更紧迫的问题不是是否存在偏见，而是偏见从何而来。在大多数情况下，偏见并不是在发布后突然出现的缺陷。它早在收集的数据和塑造模型的假设中就已经存在。
历史数据集携带着过去不平等的印记，从倾向于男性的招聘记录到偏向男性症状的医学研究。当这些数据集成为模型的原材料时，结果往往会重现那些相同的模式。
设计选择会加剧这一问题。除非有意纳入公平约束，否则训练以最大化效率、准确性和利润的模型将只优化这些目标。即使是商业智能系统也可能倾向于主流行为，边缘化少数情况和代表性不足的群体，除非多样性被纳入其框架。
技术干预措施如重新加权或移除变量可以帮助缓解，但它们只是局部措施。持久的变化取决于在桌面上拥有不同的观点，并从一开始就将公平性融入设计。如果没有这一点，偏见将成为背景噪音的一部分，在有人想到质疑之前就一直在引导决策。
缺乏人工智能透明度的业务风险
当偏见在人工智能生命周期早期被允许扎根时，它不仅带来了道德上的担忧，还带来了商业上的风险。随着这些系统的扩展，一个有偏见的决策可以在几分钟内触及数千人，使组织面临声誉和法律损害的风险。监管机构已经注意到这一点并采取行动：欧盟人工智能法案和英国新的算法透明度规则将要求更高的问责制，对未能达到标准的行为施加实际处罚。
在数据驱动的企业中，没有孤立的输出。招聘算法中的微妙偏见可以决定谁被带入组织，进而影响谁被晋升、谁达到领导地位以及谁的需求塑造产品决策。如果不加以解决，这些模式可能会推动组织朝着没有人打算的方向发展，等到效果显现时，它们通常已经深深植根于文化和运营之中。
从技术治理到组织问责的转变
关于人工智能中是否存在偏见的公共辩论已经超越了这一问题——这一点已经确定——而是转向了谁应对此负责。
直觉上，人们会将目光投向数据科学家和工程师，然而偏见很少仅仅是一个技术问题。偏见是组织选择的结果：收集哪些数据，优化哪些结果，以及在模型上线前进行多少审查。
审计、文档和测试是必不可少的，但它们不能孤立存在。这些措施必须嵌入一个更广泛的治理框架中，将人工智能输出与其现实世界的影响联系起来，并在组织层面明确责任。公平性在人工智能领域不是一次性达成并打勾的任务。模型会演变，数据会发生变化，除非持续监控和挑战，否则偏见会再次出现。
这使得人工智能治理成为风险管理的核心部分。提供答案的系统不仅应提供自信的输出，还应能够呈现其假设并标记潜在的盲点，而不仅仅是提供无人质疑的结论。
现在是时候采取类似性别薪酬报告的方法，要求组织定期进行并公布其人工智能系统的偏见审计，尤其是那些影响就业、医疗和金融结果的系统。透明度本身不会解决问题，但深入了解这些系统将为问责制奠定基础，并有助于追踪其随时间的改进。
将人工智能的公平性与薪酬平等一样严肃对待，不仅仅是为了增加一项合规检查。算法已成为组织与受影响人群之间的社会契约的一部分。将人工智能视为不透明的效率工具的企业将发现自己不得不应对本可以预防的危机。而将人工智能视为透明、负责任的决策者的公司则更有能力赢得信任，并在公平不仅是价值观而是差异化因素的市场中竞争。
(以上内容均由Ai生成)
