纽约 AI 消费者保护法案将过程置于实质之上

快速阅读: 《彭博法律》消息，纽约州审议的《人工智能消费者保护法案》可能限制其在AI领域的未来发展。尽管该法案旨在防止歧视，但其严格要求可能阻碍技术创新。建议立法者采取更灵活的政策，借鉴俄克拉荷马州与科技公司合作进行公众教育的做法，而非制定过于具体的法规。

纽约州正在审议的人工智能消费者保护法案（法案编号A 768（众议院）和SB 1962（参议院）），可能阻碍纽约州未来在人工智能领域的发展。纽约州一直以来致力于推动创新，并希望通过这种方式为全国其他地区创造更多机会。从伊利运河到尼亚加拉瀑布水电项目，该州长期通过投资技术发展并加速其应用来适应技术变革。这一做法与“丰饶”理念相符，强调程序过程与实质性目标的一致性。长期以来，程序过程往往削弱了实质性目标。例如，过于严格的住房法规限制了纽约州乃至全国的住房供应。纽约州在人工智能监管方面也可能出现这种脱节。

《纽约人工智能消费者保护法案》包含了一些旨在防止人工智能延续对受保护群体歧视的善意程序保障措施。这要求高风险人工智能系统的开发者遵守诸多要求。例如，开发者需要：

– 评估并减轻可能导致歧视性输出的系统偏差。
– 合理保护消费者免受已知或可预见的算法歧视风险。
– 允许独立第三方分析系统，在执法行动中触发一个可质疑的假设，即他们合理保护了消费者。
– 合理保护消费者免受已知或可预见的算法歧视风险。

这些程序检查表面看来无害且容易满足，但在实际操作中，每个要求都会严重限制开发者继续研究和开发的能力。计算机科学家们对于消除偏见的技术可行性存在争议。有人认为这样做可能会适得其反。试图修复系统的努力可能会带来意想不到的负面后果。例如，试图去除训练数据中的偏见通常会对后续模型训练产生不可预测的影响。训练模型避开某些话题可能会加剧其生成错误输出的倾向。要求开发者“合理注意”可能会导致负面效果，因为模糊性可能导致混乱、不一致的指导方针和任意执法。审计要求假定有足够的合格独立第三方。由于潜在审计员与人工智能实验室之间已有联系，这种供应可能不存在。全球人工智能人才短缺以及有限数量的共同资助项目使得许多人工智能研究机构与领先的人工智能开发者建立了联系。最重要的是，纽约州已有相关法律保护它们免受该法案所声称激发的问题影响。公司不得从事不公平或欺诈性的行为。纽约州人权法禁止在多种情况下基于受保护群体进行歧视。消费者还可以依据关于缺陷产品的判例法。在纽约州，法律就是法律。

立法者不应试图为不断发展的技术制定过于具体的法规，而应倾向于那些使过程与积极结果一致的政策。他们应考虑效仿俄克拉荷马州的做法，该州与谷歌合作，为10,000名居民提供人工智能教育，帮助他们利用人工智能的潜力，认识到其局限性，并识别其偏见。如果纽约州立法者认为类似的教育努力不足以减少有偏见的人工智能系统对公共利益构成威胁的可能性，他们应向总检察长办公室拨款以加强现有法律的执行力度。

正如能源项目分区规定和许可流程背后的动机可能是好的一样，《纽约人工智能消费者保护法案》背后的动机也可能是好的。然而，良好的意图无法将“创新、研究和技术”置于纽约州人工智能投资的前沿。

(以上内容均由Ai生成)