加州立法者提出“无机器人老板”法案：雇主需要了解的最新 AI 立法

快速阅读: 据《JD Supra》称，加州参议员杰里·麦克纳尼推出第7号法案，旨在规范工作场所中自动决策系统的使用，限制人工智能在招聘、晋升等方面的运用。法案要求雇主进行人力监督、通知员工、保障数据透明及申诉权利。违反者将面临罚款，并可能受到员工的私人诉讼。该法案将影响所有雇主，包括小型企业和非营利组织。

另一位加州立法者希望该州成为人工智能监管的领头羊，推出了“禁止机器人老板”法案，直接针对在工作场所使用人工智能的问题。参议员杰里·麦克纳尼（杰里·麦克纳尼）周五发布的第7号参议院法案旨在规范在就业中使用自动决策系统（自动决策系统）。法案希望严格限制在招聘、晋升、纪律处分及解雇员工时使用人工智能驱动工具。如果通过，第7号法案将对使用人工智能驱动劳动力管理工具的雇主产生重大影响。以下是一些企业需要了解的关于这项最新人工智能工作场所监管提案的信息——以及它与加州其他待定人工智能立法有何不同。第7号法案要求什么？《禁止机器人老板法案》，您可点击此处阅读，将对使用自动决策系统进行与就业相关决策的雇主提出几项关键义务和限制：人力监督规定——雇主不能仅依赖自动化决策工具进行招聘、晋升、纪律处分或解雇。所有重要的雇佣决定都需要人类审查员参与。通知要求——当雇主使用自动决策系统做出与雇佣相关的决定时，必须向员工提供书面通知。这包括：在引入自动决策系统前至少提前30天的通知。解释自动决策系统如何影响雇佣决定的通知。透明度和数据访问——员工有权访问并更正其被自动决策系统使用的数据，确保不会因人工智能分析错误而受到不公正对待。申诉程序——如果员工认为自动决策系统驱动的雇佣决定有误，雇主必须提供明确的申诉程序。雇主必须给予员工30天时间提交申诉。然后，他们必须在14个工作日内回应——在符合特定标准的人类审查员客观评估所有证据之后。如果人类审查员认定决定应被推翻，雇主必须在21个工作日内纠正决定。禁止用途——该法案明确规定禁止某些自动决策系统功能，包括：使用人工智能预测员工行为或评估个性、情绪状态或意图。收集或推断敏感个人信息（如移民身份、性取向、信用历史、宗教信仰等）。主要依赖客户评分或类似人工智能生成的指标进行雇佣决定。最后一点——禁止预测行为分析，很可能会引起高度争议。这种禁令可能会显著阻碍进展和效率，因为它最终会广泛涵盖旨在帮助员工的常见人工智能用途，包括员工保留、员工满意度和其他类似目标。反对者可能会声称，这些用途不是由生成式人工智能驱动的，而是简单的数学公式，因此不会受到其他生成式人工智能使用所引发的相同担忧（幻觉、偏见等）的影响。第7号法案将如何执行？劳工专员将负责执行第7号法案，违规可能导致每次违规罚款500美元——更不用说员工可能提起的私人诉讼了。第7号法案与加州其他待定人工智能监管有何不同？第7号法案并不是加州唯一考虑中的人工智能工作场所监管法案。众议院第1018号法案（AB 1018），您可点击此处阅读，也寻求规范就业中的人工智能使用，但存在关键差异。第7号法案主要关注就业决策中的人力监督，防止雇主完全依赖人工智能做出关键的工作场所选择。AB 1018对雇主和人工智能供应商施加更广泛的合规义务，要求进行审计、数据保留政策和全面的风险评估，针对人工智能驱动的招聘工具。第7号法案明确禁止预测行为分析，而AB 1018则更侧重于影响评估和报告义务。同时，第7号法案基本上会实施类似于目前加州隐私保护局（CPPA）在CCPA/CPRA第二轮关于自动决策技术（ADMT）法规中提出的类似要求。这些拟议法规很可能在今年晚些时候通过并生效。但CCPA仅适用于一定规模的营利性企业或符合特定消费者数据收集标准的企业。相比之下，第7号法案将适用于所有雇主，无一例外，包括小型企业和非营利组织。效果？第7号法案可能会有效地取代CCPA/CPRA对ADMT的监管要求，因为该法律将施加几乎相同的条款——更不用说一些不在待议CCPA法规中的额外要求。最后，参议员斯科特·维纳（斯科特·维纳）提出了第53号参议院法案，旨在促进大规模人工智能系统的负责任开发。该法案提议创建CalCompute，一个公共云计算集群，旨在支持初创企业和研究人员开发大型人工智能模型。此外，第53号法案还寻求加强对报告与人工智能开发相关的潜在风险的举报者的保护。它遵循了类似路径，即去年通过立法但最终被州长加文·纽森（加文·纽森）否决的争议性法案。下一步是什么？《禁止机器人老板法案》预计将引发劳工联盟和商业团体之间的重大讨论。支持者认为，人力监督对于防止人工智能驱动歧视至关重要，而批评者则认为现有的就业法已经提供了足够的保护。雇主应密切关注该法案在接下来几个月可能的修订。关键期限为：该法案需在9月中旬前提交给纽森州长，他将在10月12日前签署或否决。从整体上看，这项法案再次表明，各州在未来一段时间内将继续引领人工智能监管。由于在联邦层面未获通过，这类法案无疑将在各州迅速推进。雇主现在应该做什么？尽管第7号法案仍在立法进程中，使用人工智能进行人力资源管理的雇主现在也应开始准备，考虑一些最佳实践：✅审核当前人工智能系统——识别人工智能驱动工具在就业决策中的使用情况。✅考虑如何实施人力监督政策——您可能需要确保人类决策者对招聘、晋升、纪律处分和解雇拥有最终决定权——因此，如果您的当前自动决策系统在这方面的表现较弱，您可能需要开始初步规划以必要调整。✅审查数据收集实践——您需要确保您的人工智能工具没有使用或推断禁止的个人属性，这可以通过人工智能偏差审计来实现。✅实施人工智能治理政策——建立明确的人工智能治理框架，包括偏见缓解协议和透明度措施。遵循我们的10步指南来构建自己的人工智能治理体系。实施人工智能治理政策✅及时了解立法发展——鉴于加州在人工智能监管方面的积极举措，雇主应密切关注第7号法案和AB 1018，以保持合规要求的领先。

(以上内容均由Ai生成)