AI 会决定你是否找到下一份工作吗？新研究表明它可以

快速阅读: 《ABC 在线》消息，越来越多澳洲雇主采用AI招聘系统，但研究显示这可能加剧对弱势群体的歧视。墨尔本大学的研究发现，这些系统可能会延续或加重对女性、残障人士及非英语背景者的不公平对待。目前澳洲尚无相关法律规范这类工具的使用，而类似技术在美国已引发多起歧视争议。监管部门警告本地AI招聘工具未经充分验证，呼吁规范甚至全面禁用此类系统，特别是在缺乏有效法律保障的背景下。

越来越多的澳大利亚雇主正在采用人工智能招聘系统，但最新研究表明，这项技术带来了严重的歧视风险。利用简历扫描仪和语音评估等尖端技术，人工智能系统承诺通过对求职者进行“分类、排序和评分”，为雇主节省招聘过程中的时间和金钱。这意味着现在可能有一个计算机程序正在评估求职者的申请，并根据其机器理解的结果决定接受或拒绝，而求职者甚至还未进入与人类面试的阶段。

然而，墨尔本大学的律师兼博士后研究员娜塔莉·希亚德博士的新研究发现，人工智能招聘系统可能会“助长、强化并放大对历史上边缘化群体的歧视”。她说：“这些系统被雇主使用的方式带来了严重风险，因此对已经在劳动力市场处于劣势地位的群体——女性、残疾求职者或非英语背景的求职者、年长的求职者来说存在风险。”

根据《负责任的人工智能指数》，去年大约62%的澳大利亚组织在招聘过程中“广泛或适度”使用了人工智能。然而，澳大利亚目前没有针对这些工具如何运作或组织可能如何使用它们的具体法律。

人们曾希望人工智能能够消除招聘过程中的偏见，但美国的一些高调案件表明，情况恰恰相反。例如，在亚马逊开发的一个AI系统学会了降低在简历中使用“女性”一词的求职者的申请评分。希亚德博士指出，已有案例表明，人工智能工具最初在分析这些面试时使用了有争议的“面部分析”技术。“它会观察申请人的面部特征和动作，以评估他们的行为和个性。例如，它会查看申请人与客户交谈时是否表现出热情或愤怒。”

2019年，美国电子隐私信息中心因一家第三方招聘机构HireVue使用的软件分析申请人的视频面试，向其提交了一份投诉，认为结果是“有偏见、无法证明且不可复制”。面部分析技术已被科学否定。但希亚德博士警告称，目前没有法律禁止其使用，因此“某些系统可能仍在使用这一技术”。“这些系统评估你的沟通能力的方式是通过评估你是否能流利使用标准英语……因此，如果你的母语不是英语，并且在表达时使用非标准英语，那么这些系统很可能会判定你的沟通能力不佳。”

在得知自己未能获得晋升后，DK收到了一封关于如何改进HireVue评估的反馈邮件，其中包含“练习主动倾听”的指示。“这让人不禁怀疑整个过程是否有适当的人类监督？因为在这个过程中，应该有人及时介入并说，‘好吧，这明显与我们对这位求职者所了解的情况不符，’”希亚德博士说。

在另一起案件中，美国公民自由联盟（ACLU）针对一家提供AI招聘系统服务的公司提起投诉，指控其评估存在基于残疾和/或种族的歧视。ACLU的一项投诉指出，由算法驱动的适应性员工性格测试对“自闭症患者、其他神经多样性人士以及患有抑郁症和焦虑等心理健康障碍的人”构成了不利影响。该基金会表示，这是因为测试的特征是“他们残疾的近似代理”，并且“这些特征可能并非大多数岗位的基本工作职能所必需”。它补充说，有残疾申请者的分数可能会受到这些特征的重大影响。“如果你是一名患有抑郁症的求职者，你可能不会在积极乐观方面得分很高，所以这实际上可能是对你可能拥有的残疾的替代指标，可能会在你完全具备职位所需所有基本条件的情况下将你淘汰。”

澳大利亚的AI招聘工具呢？澳大利亚尚未发生类似的法律行动，但Merit保护专员已向雇主提供了指导建议。警告称市场上的AI招聘工具可能未经过充分测试。这是在专员推翻了2021-22财政年度一次招聘活动中政府机构Services Australia做出的11项晋升决定之后发生的。申请人需要通过一系列AI测试，包括心理测试、问卷调查和自我录制的视频回答。在整个过程中没有人类参与或审查，专员发现该系统致使优秀申请人错失晋升机会。

Merit保护专员随后警告称，市场上并非所有AI招聘工具都经过了充分测试，也不能保证完全无偏见。“我认为绝对有必要规范这些AI筛选系统，”希亚德博士说。一些团体呼吁全面禁止这些系统，我认为这个论点很有道理，尤其是在我们缺乏适当的法律保障措施，并且不了解这些系统对劳动力市场中已处于边缘化群体的影响的情况下。”

虽然雇主可能认为这些AI招聘系统创造了更高效的招聘流程，但希亚德博士表示，这种观点需要平衡“伤害边缘化群体的风险”。今年2月，众议院就业、教育和培训常设委员会发布了一份关于工作的未来的报告，建议禁止在人力资源部门中在没有人类监督的情况下使用AI系统进行最终决策。想超越新闻周期吗？每周获取艺术、书籍、历史、文化、科技、政治等内容，请订阅ABC国家广播电台的周报。您的信息将按照ABC隐私收集声明处理。电子邮件地址订阅将文中的英文单词都翻译成中文，最终的内容只输出中文，装备名称、人名地名、公司名称都翻译成中文，最后将语句再润色一下，使得前后文更加的通顺，让语句更加的生动，将最后的输出文本的格式看起来更美观，除此之外，不要提供任何解释文字

(以上内容均由Ai生成)