领导者如何选择合适的 AI 审计服务

快速阅读: 据《福布斯》最新报道，四大会计事务所开始提供AI审计服务。领导者需了解AI风险、管理框架及公平性标准，确保AI合法、合规且透明。AI审计应结合组织价值观，建立跨职能团队和治理框架。

律师办公室中律师使用的工具，包含描绘人工智能法律和在线技术法规的法律敏锐图标。Getty

如今，四大会计事务所——德勤、普华永道、安永和毕马威——开始提供人工智能审计服务。领导者在选择合适的AI审计服务和负责任的AI（RAI）时，需要了解哪些内容？

第一步是了解实施AI系统时的关键漏洞，以及如何缓解这些风险。理解黑箱AI系统的意外后果以及此类AI部署中的透明度不足非常重要。在面向消费者行业中，如果在没有充分关注这些系统是如何训练的以及使用了哪些数据进行训练的情况下部署黑箱AI系统，可能会对消费者造成伤害，例如价格歧视或质量歧视。差别影响法允许个人就这种无意的歧视提起诉讼。

接下来，领导者需要了解管理这些风险的框架。美国国家标准技术研究院提供了一个AI风险管理框架指南，该框架概述了全面的风险管理方法。管理框架有助于领导者更好地管理与AI相关的个体、组织和社会风险，就像其他行业中要求透明度的标准一样。

当正确使用时，AI审计可以有效地检查AI系统是否合法、合乎道德且技术上稳健。然而，公司在理解这些原则并将其纳入其组织目标和价值观方面存在巨大的差距。波士顿咨询公司和斯隆管理评论2022年的一项研究发现，RAI计划往往忽略三个维度——公平性和公正性、社会和环境影响缓解，以及人机协同，因为这些很难处理。负责任的AI原则不能脱离实际，而必须与公司更广泛的负责任商业目标联系起来。例如，高层管理人员是否有意将RAI与其治理、方法和流程联系起来？

为AI审计设定明确的目标

在采购技术时通常使用的标准框架主要关注性能、成本和质量考虑因素。然而，评估工具还需要价值因素，如公平性、公正性和透明度。领导者需要设想诸如可信度、与组织使命的一致性、人机协作、部署AI时的可解释性和可解释性等价值观。

研究人员李悦琪和桑贾伊·戈尔的一项研究发现，关于AI审计的知识缺口显著。这些缺口源于AI治理机制尚不成熟和AI治理流程的实际应用不足。AI审计的连贯方法需要将伦理原则整合到AI治理中。

以一个例子来说，一家金融机构可以在AI驱动的决策模型中明确将公平性作为标准。为此，我们首先需要一个清晰且一致的公平性标准，并且该标准应得到法律原则和成熟的商业惯例的支持。其次，我们需要明确的标准来确定公平性规范是否被违反，这可以作为压力测试，以确定基于AI的模型是否真正公平。

使用公平性标准审计自动化业务决策的预测，将使公司能够确定其政策是否比其他群体更不利于某些群体。如果一家银行有兴趣预测向谁贷款，添加公平性作为一项标准并不意味着银行必须完全停止筛选借款人。它需要银行避免那些会对某些借款人群体构成更严格负担的指标（即对不同人群采用不同的标准）。

人工智能概念。思维互联网和数据分析。Getty

在部署黑箱AI模型之前进行算法压力测试，可以使我们可视化不同的情景，这不仅有助于建立公平性审计的目标，还可能让决策者指定不同的性能标准（从技术角度和业务目标性能两个方面来看）。这种压力测试可以让供应商量化业务中的法律和运营限制、行业历史做法和保护机密数据的政策等。微软和谷歌等公司已使用AI“红队”（模拟攻击团队）对其系统进行压力测试。

跨职能领导如何利用AI

上述BCG/SMR调查指出了领导者的一个关键作用，大多数处于RAI成熟阶段的组织都有一个人和一个委员会来指导他们的RAI战略。

越来越多的从业者也呼吁设立“机构伦理审查委员会”来使用AI。低频率但高商业影响的决策，如信用评级模型的选择，需要一个系统性的过程来达成共识。一个负责RAI的倡导者，与跨部门小组合作，可以被赋予这样的责任。机构伦理审查委员会需要将算法风险纳入组织的风险框架中。小型组织可以依赖审计机构和行业标准组织制定的最佳实践清单。

随着我们逐步适应算法时代，认识到何时需要人类决策者以及何时可以使用自动化决策将变得越来越重要。同样重要的是要理解业务流程如何界定由人类执行的判断和自动化部分之间的界限。IRB可以考虑的问题包括：谁应该设定这些界限？这是部门主管还是中层经理的责任？AI伦理团队和法律团队需要考虑这些界限的政策影响和法律影响。

建立AI审计的基础

在领导者开始AI审计之前，有三个关键方面需要理解：

建立AI审计的基础

定义目标：了解AI审计不是关于技术本身，而是AI如何与组织的价值观交织在一起。

建立AI审计的基础

更多为您推荐

建立AI治理：在进行AI审计之前，我们需要建立一个全面的AI治理框架。

建立跨职能团队：算法风险需要在组织自身风险概况的背景下加以理解。跨部门小组是建立这种理解的关键。

AI越来越多地与企业几乎每个方面交织在一起。领导者应意识到AI缺乏透明度和监督所带来的算法风险，同时也要认识到数字化转型带来的巨大好处。建立正确的治理框架和审计AI将确保AI模型开发、部署和使用的透明度。

(以上内容均由Ai生成)