商业中的 AI：不容忽视的风险

快速阅读: 《国家法律评论》消息，AI正在改变商业运作，但带来法律和金融风险。企业需应对偏见、隐私、透明度及网络安全等问题，确保合规与信任。加强治理、问责和监督，利用保险缓释风险，以最大化AI优势并最小化潜在责任。

人工智能（AI）正在彻底改变商业运作方式，带来效率提升、决策优化和客户互动的改善。然而，随着AI迅速融入业务流程，一系列法律和金融风险也随之而来，企业必须妥善应对这些风险，以确保合规并维护信任。

**AI的广泛法律定义及其影响**

在美国，法律框架对AI的定义比一般人的预期要宽泛得多，可能涵盖了各种软件应用。根据《15 U.S.C. § 9401(3)》，AI是指任何基于机器的系统，具备以下特征：

– 能够进行预测、推荐或决策；
– 基于人为设定的目标；
– 对现实或虚拟环境产生影响。

这种广泛的定义意味着，像Excel宏这样普通的工具也可能受到AI法规的约束。正如Enumero Law的尼尔·佩雷茨（Neil Peretz）指出的那样，如此宽泛的定义意味着各行各业的企业现在都需要重新审视自己所有的软件使用情况，以确保符合新出台的AI法律。

**驾驭不断演变的监管环境**

人工智能的监管环境正迅速发生变化。例如，欧盟的《AI法案》将AI系统分为不同的风险类别，对高风险应用实施严格的规定。在美国，各州正在推出AI相关法律，企业需要时刻关注这些不断变化的法规。

据Much Shelist, P.C.的合伙人乔纳森·弗里德兰（Jonathan Friedland）称，代表私募股权支持的董事会和其他私营公司的董事们表示，人工智能的发展速度如此之快，以至于即使是规模较小的公司也在投入大量资源开发合规计划，以确保遵守适用法律。

弗里德兰指出，结果之一是，“不出所料，目前提供的AI认证项目、在线课程和学位数量正在激增。似乎人人都参与进来了，”弗里德兰继续说道，“例如，专注于隐私和数据保护的全球机构国际隐私专业人士协会最近开始提供‘人工智能治理专业认证’。”对于公司来说，弗里德兰认为挑战在于“适当投资而不做得过头”。

**驾驭AI系统中的偏见和歧视**

算法偏见和问责制相关的法律挑战声称，用于训练AI的历史数据往往反映了社会不平等，AI系统可能会进一步加剧这些问题。

Longman & Van Grack的肖恩·格里芬（Sean Griffin）强调了AI工具导致歧视指控的案例，例如针对Workday的一起诉讼中，申请人声称该公司的AI系统系统性地拒绝了黑人和年长的候选人。同样，亚马逊在发现其AI招聘工具偏向男性后停止使用该工具，揭示了AI可能强化社会偏见的可能性。

为了减轻这些风险，企业应定期审计其AI系统，识别并解决偏见问题。这包括多样化训练数据并建立监督机制，以确保AI驱动决策的公平性。

**解决数据隐私问题**

AI对庞大数据集的依赖，通常包含个人和敏感信息，引发了重要的数据隐私问题。AI驱动的工具可能能够推断出敏感信息，例如从社交媒体活动推断健康风险，可能绕过传统的隐私保护措施。

由于AI系统可能访问各种数据，遵守GDPR和CCPA等数据保护法规至关重要。企业必须确保在AI系统中使用的数据依法收集和处理，在必要时获得明确同意。建立健全的数据治理体系并进行数据匿名化处理有助于降低隐私风险。

**确保透明度和可解释性**

AI模型的复杂性，尤其是深度学习系统，常常导致决策过程不透明的“黑箱”场景。这种缺乏透明度可能导致问责和信任方面的挑战。企业应认识到与第三方合作开发或运营其AI解决方案可能存在的风险。在很多决策场景下，需要可解释性，单纯采用黑箱方法是不行的。例如，在拒绝消费者信贷申请时，需要向申请人提供具体的不利行动原因。

为了解决这个问题，企业应努力开发可解释的AI模型，并为其决策提供清晰的解释。这不仅有助于监管合规，还能增强利益相关者的信任。

**管理网络安全风险**

AI系统既是网络犯罪的目标，也是工具。网络犯罪分子正在利用AI制造复杂的网络钓鱼攻击并自动化黑客尝试。相反，企业可以使用AI进行威胁检测和快速事件响应。

与金融服务中的AI相关的法律风险突显了管理网络安全风险的重要性。采取强有力的网络安全措施，比如加密、访问控制和持续监控，对于保护AI系统免受威胁至关重要。定期的安全评估和更新可以进一步防范漏洞威胁。

**考虑保险作为风险缓释工具**

鉴于AI相关的多方面风险，企业应评估某些类型的保险在多大程度上可以帮助他们管理和减少风险。商业综合责任险、网络责任险和错误与遗漏保险等政策可以提供针对各种AI相关风险的保护。

企业能从针对特定业务的AI风险审计以及将保险作为风险缓释手段的考量中获益。定期审查和更新保险覆盖范围确保其与AI部署相关的不断变化的风险格局保持一致。

**结论**

虽然AI为企业提供了变革性的潜力，但也带来了重要的法律和财务风险。通过主动应对与偏见、数据隐私、透明度、网络安全和监管合规相关的问题，企业可以在最小化潜在责任的同时利用AI的优势。

AI倾向于告诉提示者他们想听到的内容，无论内容是否真实，这凸显了在其采用过程中治理、问责和监督的重要性。制定明确政策和风险管理策略的组织将最有可能成功地驾驭AI驱动的未来。

若想了解更多关于这一主题的信息，请参阅《企业风险管理/记住HAL 9000：思考人工智能对企业风险》。本文中引用的言论要么是在这次网络研讨会期间发表的，要么是在网络研讨会后的小组成员访谈中发表的。读者可能还对其他关于风险管理和技术的文章感兴趣。

(以上内容均由Ai生成)