马萨诸塞州 AG 与学生贷款机构就基于人工智能的公平贷款违规行为达成和解

快速阅读: 《国家法律评论》消息，2023年7月10日，马萨诸塞州总检察长与一家学生贷款公司达成250万美元和解，因其AI承销系统涉嫌歧视性影响。该公司被指控未测试算法公平性、使用种族相关数据等。和解要求其实施AI治理措施。

2023年7月10日，马萨诸塞州总检察长安德烈·乔伊·坎贝尔宣布，与一家学生贷款公司达成250万美元的和解协议，以解决有关其承销做法违反马萨诸塞州消费者保护法和平等信用机会法案的指控，包括使用人工智能模型对受保护群体产生歧视性影响。

总检察长的调查重点是用于发放和再融资学生贷款的自动化和人工承销系统。监管机构指控该公司在模型和覆盖流程方面缺乏适当的监督，未能评估歧视性影响，并采用了可能对少数族裔和非公民申请人造成不成比例损害的输入。此案通过向萨福克县高等法院提交的保证停止令得以解决。

具体而言，和解协议指控该公司：

– 未能测试其人工智能模型是否存在公平放贷潜在风险。据称，该公司在未评估其模型是否存在歧视性影响或实施适当控制措施的情况下，使用了算法承销工具。

– 使用了对少数族裔申请人造成不利影响的学校级违约数据。据报道，这些模型考虑了与特定大学相关的群体违约率，导致某些种族群体获得较差的结果。

– 提供的拒绝通知中未提供准确原因。据称，贷款方发出的不利行动通知未能解释信用拒绝的真实原因，这是由于系统设计限制所致。

– 允许承销人员在没有书面政策的情况下覆盖模型。据称，人工覆盖行为没有书面政策，导致相似情况的申请人在结果上存在不一致。

– 对其承销实践缺乏监督。据称，该公司未能制定政策、测试或文档来确保符合州和联邦法律。

该和解要求该公司实施人工智能治理程序，每年进行公平放贷测试，剔除某些承销变量，并向总检察长办公室报告合规措施。

实践应用：

各州继续扩大执法行动，以应对感知到的联邦监管漏洞（此前在此处和此处讨论过）。马萨诸塞州是首批对涉嫌歧视性影响和合规失败施加金钱处罚和广泛禁制令的州之一。鉴于联邦政府已终止差异性影响分析在住房及公平放贷案件中的应用（此前在此处讨论过），这一点尤其值得注意。

(以上内容均由Ai生成)