银行业对 AI 的监管应侧重于结果，而不是模型
快速阅读: 《美国银行家》消息，米歇尔·博纳特认为，监管机构应关注AI金融应用的结果而非设计细节，确保符合现有消费者保护法规，避免过度监管阻碍创新。通过灵活的风险导向框架和监管沙盒，可在保护消费者的同时促进负责任的创新。
米歇尔·博纳特（米歇尔·博纳特）在AI Squared撰文指出，监管机构不应试图控制银行人工智能模型的设计方式，而应评估其产生的结果，并确保这些结果符合现有的消费者保护法规。
Adobe Stock
人工智能正深刻改变着金融服务行业，从自动化信用评估到增强欺诈检测。然而，随着人工智能的应用范围不断扩展，如何有效监管其使用也引发了越来越多的争论。当我负责摩根大通的人工智能创新工作时，我亲身感受到了这种矛盾。虽然有些人主张对人工智能模型和基础设施进行严格监督，但一种以消费者为核心的方法——利用现有的金融法规——可能提供了一条平衡之路，既能保护消费者又不会扼杀创新。
当前的监管努力往往集中在人工智能的技术层面，强调透明度、偏见缓解和严格的监督。例如，欧盟提出的《人工智能法案》旨在根据风险水平对人工智能应用进行分类，并对包括金融服务在内的高风险系统实施严格要求。同样，在美国，联邦层面关于人工智能监管的讨论曾一度获得并失去动力，各州也在考虑制定法律来监管人工智能在医疗保健和金融等领域的部署。例如，加州率先通过了新的人工智能法律，推动各行业的透明度、隐私和道德实践。
然而，金融行业已经是全球受监管最严的行业之一。《通用数据保护条例》（GDPR）、《加州消费者隐私法》（CCPA）和《多德-弗兰克法案》等法规对数据保护、消费者权利和金融稳定提出了严格要求。在此基础上叠加专门针对人工智能的额外规定可能导致重复、合规成本增加以及潜在障碍——更不用说混乱了。
难道我反对人工智能监管吗？绝非如此。我建议将监管重点从人工智能模型的复杂性转移到它们产生的结果上，这提供了一个务实的替代方案。这种方法侧重于人工智能驱动的决策应与现有的消费者保护法律保持一致，确保公平性、透明性和责任性。
与其深入分析算法本身，监管机构可以评估人工智能驱动的决策是否符合既定的消费者保护标准。例如，如果一个人工智能系统拒绝了一份贷款申请，该决定应遵循公平借贷做法，明确说明拒绝原因，并确保没有歧视性因素影响结果。
现行法规已对金融服务中的公平性和问责制作出规定。《平等信贷机会法》禁止信贷交易中的歧视行为，无论决策是由人类还是人工智能系统做出的。此外，《消费者金融保护局》监督金融机构确保其遵守消费者保护法律，并将其职权范围扩展到人工智能驱动的做法。另外，《GDPR》和《CCPA》规定了数据隐私，并赋予消费者对其个人信息的权利，影响了人工智能系统处理和使用数据的方法。
彭博推出基于人工智能的华尔街文件搜索
像彭博和FactSet这样的市场数据供应商利用生成式人工智能提升用户生产力。
作者：佩妮·克罗斯曼
2023年4月7日
现有的金融法规能够有效应用于管理人工智能应用。这包括反歧视和公平性，其中金融机构必须确保用于信用评分或抵押贷款批准的人工智能模型不会延续偏见。定期审计和偏见测试有助于保持对反歧视法律的遵从。除此之外，预防欺诈和人工智能透明度同样重要。
人工智能系统在检测欺诈活动方面发挥着关键作用。然而，其部署必须符合反洗钱和了解你的客户的规定，确保人工智能驱动的警报和决策透明且可解释。最后，市场稳定性和人工智能在交易中的应用是重要的考量因素，因为人工智能驱动的交易算法必须在证券交易委员会和商品期货交易委员会等金融监管机构设定的边界内运行。这些机构确保此类技术不会扰乱市场或进行操纵。
尽管监管至关重要，但过度监管人工智能模型及其基础设施可能带来意想不到的结果。过多的监管要求会导致合规成本增加，因为金融机构可能需要承担大量费用以满足重叠的监管需求，从而将资源从创新中转移出去。严格的法规可能会通过阻碍有益的人工智能技术的发展与应用来减缓创新速度，最终限制那些能够提升消费者体验的进步。
另一种方法是采取基于风险、聚焦结果的框架，这允许在监管中灵活和适度。
基于原则的监管侧重于人工智能的道德运用和期望成果，而不是规定具体的技术措施，使机构能够根据其独特的背景调整做法。监管沙盒为金融机构提供了一个在监管监督下测试人工智能创新的受控环境，促进试验的同时保障消费者权益。
随着人工智能继续重塑金融服务，监管机构面临着在不阻碍技术进步的情况下保护消费者这一挑战。我们都期待达成这种平衡，保护是好的。然而，通过关注人工智能应用的结果并执行现有的消费者保护法律，政策制定者可以确保人工智能服务于公共利益。这种方法不仅保护消费者，还鼓励负责任的创新，使金融行业能够在保持信任与诚信的同时发展。
简而言之，目标应该是创造一个让人工智能能够负责任地蓬勃发展的监管环境，为消费者带来好处而不损害伦理标准或抑制技术进步。基于原则的监管侧重于人工智能的道德运用和期望成果，而不是规定具体的技术措施，使机构能够根据其独特的背景调整做法。监管沙盒为金融机构提供了一个在监管监督下测试人工智能创新的受控环境，促进试验的同时保障消费者权益。
最后，我们将目光投向未来，希望看到一个既鼓励创新又保护消费者的平衡环境。这种环境将人工智能置于道德和法律框架内，使其成为推动金融服务行业向前发展的强大工具。
(以上内容均由Ai生成)
