加州的等待即将结束：新的 AI 就业歧视法规即将最终发布

快速阅读: 《JD Supra》消息，加州通过新规限制雇主在招聘中使用人工智能和自动化系统，防止歧视，规定将于近期正式生效，加州将成为率先规范此类技术使用的州之一。

加州民权部门最终敲定雇主使用人工智能及自动化决策系统的新规

加州公民权利委员会已经推进了有关雇主使用人工智能（AI）和自动化决策系统的最新规定，为这些规定今年晚些时候生效铺平了道路。此举使加州成为最早采用全面规范此类技术在就业决策中使用的州之一。

加州民权部门最终敲定了修改后的雇主使用人工智能和自动化决策系统的规则。这些规定明确指出，使用此类技术做就业决定可能触犯州反歧视法，并明确了这类技术的使用限制，包括进行刑事背景调查和医疗/心理询问等方面。

2025年3月21日，加州公民权利委员会投票批准了加利福尼亚州关于“自动化决策系统就业规定”的最终修订文本。这些规定已提交给行政法办公室，该办公室必须批准这些规定。目前尚不清楚最终修订何时生效，但它们很可能在今年生效。

多年来，加州公民权利部门一直在考虑自动化决策系统的相关规定，担心雇主越来越多地使用人工智能和其他自动化决策系统（即“自动化决策系统”）来做出或协助就业决策，例如招聘、雇佣和晋升。

虽然最终规定与2024年5月发布的拟议规定有一些关键差异，但它们澄清了使用人工智能和自动化决策系统做出就业决定，如果歧视申请人或员工的方式违反了《加州公平就业与住房法》（FEHA）或其他加州反歧视法，则是非法的。

以下是最终规定的几个关键方面：

**自动化决策系统最终规定**

最终规定将“自动化决策系统”定义为“一种计算过程，用于做出就业福利相关的决定或协助人类做出决定”，包括那些可能源自并/或使用人工智能、机器学习、算法、统计学以及其他数据处理技术的过程。这个定义比拟议的规定更窄，后者将包括任何“筛选、评估、分类或以其他方式做出决定”的计算过程……

自动化决策系统涵盖的系统包括多种技术流程，例如用于评估申请人或员工的测试、游戏或谜题，针对职位广告的目标定位流程，简历筛选流程，分析“在线面试中的面部表情、用词和/或语音”，或从第三方获取的员工或申请者数据进行分析的流程。此类系统不包括“文字处理软件、电子表格软件、[以及]地图导航系统”。

自动化决策系统不包括常见的软件或程序，如文字处理器、电子表格、地图导航系统、网络托管、防火墙和常见安全软件，“只要这些技术不涉及就业福利的决定”。值得注意的是，最终规定没有包含拟议规则中排除的技术条款的语言，该条款原本会排除用于“协助人类就就业福利做出决定”的系统。

**其他关键术语**

**代理**——最终规定将雇主的“代理”视为FEHA法规中的“雇主”。一个“代理”被定义为“代表雇主直接或间接行使传统上由雇主行使的职能或从事其他FEHA监管活动的任何人……包括当这些活动和决定部分或全部通过自动化决策系统进行时。”

**自动化决策系统数据**——规定将此类数据定义为“用于开发或定制特定雇主或其他相关实体使用的自动化决策系统的任何数据”。然而，最终规定缩小了作为“自动化决策系统数据”所包含的内容，删除了拟议规定中将“用于开发和/或应用机器学习、算法和/或人工智能的任何数据”包括在内的语言，包括“用于训练机器学习算法的数据”。

**人工智能**——规定将人工智能定义为“一种基于机器的系统，根据其接收到的输入推断如何生成输出”，这可以包括“预测、内容、建议或决定”。拟议规定曾包括“能够根据一组人为定义的目标做出预测、建议或决定的机器学习系统”。

**机器学习**——该术语被定义为“计算机使用和学习其自身数据分析或经验的能力，并在未来计算或任务中自动应用这种学习”。

**非法选择标准**

长期以来，加利福尼亚州禁止潜在歧视性招聘工具的使用，但最终规定确认这些反歧视法律适用于由人工智能或自动化决策系统执行的基于受保护类别或残疾的潜在歧视。具体而言，规定指出，“雇主或其他相关实体不得使用自动化决策系统或选择标准（包括资格标准、就业测试或替代指标），如果这些标准对申请人或雇员或一类申请人或雇员存在基于FEHA保护的歧视”。

**消除差异影响**

然而，最终规定未包含拟议的FEHA法规下由自动化决策系统引起的“不利影响”的定义。之前的拟议规定曾指定“不利影响”包括“差异影响”理论，并可能是由于“表面上中立的做法，这种做法负面限制、筛选、倾向于限制或筛选、排名或优先考虑受FEHA保护的申请人或雇员”的结果。此外，最终规定没有包含类似的语言，将自动化决策系统定义为包括筛选或做出与就业福利相关的决定的系统。

**入职前实践**

最终规定进一步澄清，在线申请技术的使用，如果“根据排班限制筛选、排名或优先考虑申请人”，可能会因为宗教信仰、残疾或医疗状况而歧视申请人，除非这些做法与工作相关且符合业务必要性，并且有机制供申请人请求调整。规定明确指出，这将适用于自动化决策系统。

规定指出，使用这样的系统“例如，评估申请人的技能、灵巧度、反应时间等能力或特征，如果没有合理的调整，可能会对某些具有特定残疾或其他受法案保护特征的个人造成非法歧视”。同样，一个系统如果“分析申请人的语调、面部表情或其他身体特征或行为，可能会基于种族、国籍、性别、残疾或其他受保护特征歧视个人”，也可能导致非法歧视。

**犯罪记录**

加利福尼亚法律规定，雇主在拒绝基于犯罪记录的申请人之前，必须首先对申请人的犯罪历史是否与特定工作的具体职责有直接且不利的关系进行个性化评估。最终规定指出，“禁止考虑犯罪记录”涵盖但不限于通过就业申请、背景调查或使用自动化决策系统查询犯罪历史。

然而，最终规定未包含拟议表述，该表述原本会澄清仅使用自动化决策系统本身，“在没有额外流程或行动的情况下”，不足以构成个性化评估。最终规定进一步未包含拟议表述，该表述原本要求雇主提供一份用于撤销有条件录用通知的报告副本或描述。

**非法医疗或心理询问**

最终规定指出，禁止询问求职者的医疗或心理历史涵盖但不限于通过自动化决策系统进行。规定指出，这种询问“包括通过自动化决策系统进行的任何此类检查或询问”，包括可能引发关于残疾信息的游戏或谜题。

**第三方责任**

最终规定明确指出，禁止协助和教唆非法就业行为的规定适用于自动化决策系统的使用，可能涉及设计或实施此类系统的第三方。不过，规定明确指出，“证据或缺乏证据，关于反偏见测试或其他避免非法歧视的积极努力的质量、有效性、时效性和范围，此类测试或其他努力的结果，以及对结果的回应”与非法歧视指控相关。然而，最终规定未包含拟议表述，该表述原本会为设计、开发和推广、宣传或销售此类系统创建第三方责任。

**下一步**

一旦生效，最终规定将使加利福尼亚州成为最早颁布关于人工智能和/或自动化决策技术全面规定的司法管辖区之一，与科罗拉多州、伊利诺伊州和纽约市一起。这些规定出台之际，特朗普总统正在寻求重塑联邦人工智能政策，重点关注移除美国成为该技术研发领导者的障碍。新政策转向远离拜登政府关注保护员工和消费者免受使用此类技术的潜在负面影响，特别是非法就业歧视和骚扰的可能性。预计各州和地方政府将继续监管人工智能以弥补空白。

(以上内容均由Ai生成)