州总检察长关于将现有州法律应用于 AI

快速阅读: 据《JD Supra》称，加利福尼亚州总检察长罗布·邦塔发布指导意见，强调医疗领域AI使用的合法性，要求了解AI训练方法和信息来源，确保其使用安全、道德且合法。指导意见警告AI可能带来的歧视等问题，并列举了多项非法使用AI的行为。该法律建议基于现有加州法律，并不涵盖所有联邦法律。

人工智能（AI）在经济多个领域的迅速崛起引起了州检察长（检察长）的注意。随着各行各业越来越多地采用AI来优化或增强其运营，来自两党的检察长们正关注着AI如何影响消费者。检察长们对AI的兴趣在过去一年里几乎在每次检察长会议上都有所体现，这些会议都设有专门的AI专题小组。

检察长们关注与AI相关的四个主要问题：潜在的歧视或不平等影响可能会延续或加剧歧视；用于训练AI的数据来源是什么；由误导性信息造成的潜在消费者伤害；利用儿童色情材料（CSAM）剥削儿童。随着特朗普政府计划撤销拜登政府的人工智能监管框架，检察长很可能会利用现有的消费者保护或不公平或欺骗行为（UDAP）权力来采取执法行动。各州已经通过了包含检察长执法权在内的AI相关立法。最近，加利福尼亚州总检察长罗布·邦塔和新泽西州总检察长马特·普拉特金利用现有法定权力发布了关于潜在AI法规的指导意见。以下是这些指导意见的关键要点总结。

然而，该建议进一步警告了AI“可能导致的歧视、必要的护理被拒绝以及其他医疗资源的误分配，还有对患者自主权和隐私的干涉”。因此，根据总检察长邦塔的说法，与医疗相关的实体在开发、销售或使用AI系统时必须“了解AI系统的训练方法、系统所考虑的信息以及系统如何生成输出”。该法律建议还呼吁开发者、研究人员、提供者和保险公司测试并验证AI系统，“以确保其使用是安全、道德和合法的，并减少而不是复制或夸大人为错误和偏见”。

根据该建议，在加利福尼亚州，以下行为可能是非法的：

– 使用AI或其他自动化决策系统推翻医生关于必要治疗的观点，从而拒绝健康保险索赔。
– 使用生成式AI或其他自动化决策工具起草包含错误或误导信息的患者笔记、通信或医疗命令，包括基于种族或其他受保护特征的刻板印象。
– 使用AI或其他自动化决策系统基于患者的过去医疗索赔数据预测患者获得医疗服务的机会，导致某些患者或群体处于不利地位。这种不利可能源于某些群体由于过去的良好医疗访问而获得增强服务，而其他群体则因有限的医疗访问而被拒绝服务。
– 因为AI或其他自动化决策系统预测某患者更有可能错过预约，而将患者的预约时间安排重叠，或者设置其他行政障碍。
– 使用AI或其他自动化决策系统基于患者的过去医疗索赔数据预测患者获得医疗服务的机会，导致某些患者或群体处于不利地位。这种不利可能源于某些群体由于过去的良好医疗访问而获得增强服务，而其他群体则因有限的医疗访问而被拒绝服务。
– 使用AI或其他自动化决策系统对残疾患者进行成本效益分析，这些系统基于低估残疾人生命价值的刻板印象。
– 使用AI或其他自动化决策系统基于患者的过去医疗索赔数据预测患者获得医疗服务的机会，导致某些患者或群体处于不利地位。这种不利可能源于某些群体由于过去的良好医疗访问而获得增强服务，而其他群体则因有限的医疗访问而被拒绝服务。

邦塔总检察长指出，该法律建议仅适用于现有的加利福尼亚州法律，并不涵盖所有可能的联邦法律和法规。以下是适用于医疗领域的现有加利福尼亚州AI相关法律的摘要。

1962年，莫斯克诉全国研究公司案，201加利福尼亚上诉法院第2卷765页，772页（人民诉全国研究公司）。
引用《商业与专业行为法》第17500条及其后续条款；《民法典》第1770条。
引用《民法典》第3344条和3344.1条；另见《民法典》第1708.86条（禁止在未经被描绘人同意的情况下创建和披露色情材料）。
加利福尼亚刑法典第528.5条。
加利福尼亚刑法典第530条；另见加利福尼亚刑法典第529条（在私人或官方身份下冒充他人从事特定行为）。
参见刑法典第538d条（冒充执法人员）；刑法典第146a条（在执行特定行为时冒充州官员）；刑法典第538f条（冒充公用事业官员）；刑法典第538g条（冒充州/县/市/特别区/市或县的官员或雇员）。
例如，汤米诉案，157加利福尼亚上诉法院第3卷1页，15页（1984年）（根据第17200条，可以对帮助和教唆的行为施加责任）。
《商业与专业行为法》第17500条及其后续条款。
加利福尼亚民法典第51条。
政府法典第12900条及其后续条款。
参见雷恩斯诉美国健康工作医疗集团案，15加利福尼亚第5次568页，291页（2023年）。
加利福尼亚法规汇编，第二卷，第14027条。
参见15U.S.C.第1681条及其后续条款；15U.S.C.第1691条及其后续条款；民法典第1785.1条及其后续条款。
参见加利福尼亚民法典第1798.140条（v）。
同上，第1798.100条。
加利福尼亚民法典第1798.140条，由AB 1008号法案于2024年通过，第804章。
加利福尼亚民法典第1798.140条，由SB 1223号法案于2024年通过，第887章。
同上，第1798.140条（ab）。
加利福尼亚刑法典第630条及其后续条款。
同上，第637.3条。
加利福尼亚商业与专业行为法第22584条及其后续条款。
民法典第56条及其后续条款。
商业与专业行为法第17200条及其后续条款。
商业与专业行为法第2400条及其后续条款。
参见参议院第1120号法案（2023-2024年度）。
卫生与安全法第1367.01条，第（k）（1）款；保险法第10123.135条，第（j）（2）款。
卫生与安全法第1367.01条，第（k）（1）款（A-K）；保险法第10123.135条，第（j）（1）款（A-K）。
政府法典第11135条；加利福尼亚法规汇编，第二卷，第14020条，第（m）（6）（B）款；另见该条款（ii）[涵盖的计划或活动包括提供医疗服务]。
加利福尼亚法规汇编，第二卷，第14027条，第（b）（3）款。
引用Ziad Obermeyer等人，《解剖用于管理人群健康的算法中的种族偏见》，科学第336期，447-453页（2019年10月25日）（发现一个旨在预测患者风险的模型相对于白人患者，对黑人患者的需要估计不足）。
同上，第14025条，第（a）（3）款。
同上，第14029条，第（c）（1, 2）款。
加利福尼亚民法典第51条，第（b）款；保险法第1861.03条（将《乌尔努赫法案》应用于保险）。
加利福尼亚健康与安全法第1317.3条，第（b）款。
加利福尼亚政府法典第12900条及其后续条款。