新旧风险方法如何帮助确保 AI 影响

快速阅读: 据《福布斯》称，微软CEO提醒关注人工智能的风险与机遇。制造商需主动管理AI风险，采用基于场景的风险识别法，整合多方视角，提前模拟故障以增强业务韧性，而非事后补救。这要求从一开始就将AI机会与风险统一考虑。

人工智能的风险是什么？

索帕图片/光子火箭通过盖蒂图片社

“我们必须同时考虑到新技术带来的所有好处和意外后果，而不是等到意外后果出现后再去应对。” 这是微软首席执行官萨蒂亚·纳德拉在2024年达沃斯世界经济论坛上被问及人工智能影响时所说的话。再快进一年，他所描述的这种互联、非线性方法比以往任何时候都更加相关——包括在制造业。

确实，随着人工智能能力的扩展，许多公司不仅关注其在设计工作室或车间中的突破性潜力，还关注它在整个价值链中产生的新一波风险。

明确地说，我们这里讨论的不是那种大规模的社会性威胁，比如电脑接管世界之类的问题。相反，行业领导者开始聚焦于更直接的、与业务相关的议题，例如：

– 生成式人工智能如何改变我们的运营方式、责任以及暴露的风险？
– 我们的系统和流程在面对中断或压力时的韧性如何？

**革命的演变**

这些问题正是应该提出的——而且历史上也不是第一次提出。从蒸汽机到福特T型车再到现代计算机，技术一直促使各行业的组织重塑其运营方式。

互联网就是一个特别相关的例子。通过彻底改变信息的创造、共享和利用方式，它同时带来了技术和商业两方面的革命——同时也创造了一套全新的风险。突然间，破坏一家公司的数据和知识产权不再需要任何物理上的存在。

人工智能并没有改变这一点；只是让它变得更加容易。正如马什公司新兴技术主管金正民指出的那样：“从商业角度看，生成式人工智能可能像互联网一样对商业模式带来革命性影响。但从风险角度看，如果互联网是一场革命，那么生成式人工智能就是一种进化。它加剧并加速了已有的风险——至少到目前为止是这样。但不同之处在于它的市场进入方式。”

在这里，金正民指的是这样一个事实：与大多数技术通常从军事或商用工具开始，然后成为面向消费者的产品不同，生成式人工智能——包括像ChatGPT这样的大型语言模型——采取了相反的方式。这使得它能够绕过传统的企业级安全措施，在风险管理跟上之前就进入了工作场所。

**风险经理的崛起**

当然，人工智能的到来速度和规模也起到了一定的作用，导致许多制造商直接禁止使用它。然而，禁令从来都不是长期可行的解决方案。更重要的是，它违背了从一开始就同时管理人工智能的商业价值和风险的需求。毕竟，如果你今天不使用这项技术，你怎么能准备好明天正确地监管它呢？

然而，重新平衡的机会并没有完全丧失——远非如此。它只需要制造商积极主动地进行治理，并且更具体地说，扩大谁负责和管理人工智能风险的范围。

在一个互联互通的企业中，仅靠CIO或CISO单独行动是不够的。相反，有效的AI治理需要多功能、集中化的协作。因此，董事会和高管团队必须积极参与，与合规负责人、人力资源部门、业务部门负责人以及关键的风险管理人员一起。

事实上，在企业内部的所有角色中，风险管理人员最擅长整合这些不同的视角，并推动协调一致的企业范围的方法。

**基于场景的风险识别**

他们还需要坚实的基础，包括制定明确的实施政策，使其随着技术本身的发展而演变，并培训员工安全、负责任和有效地使用人工智能。但也许最关键的一步是采用金正民所说的“基于场景的风险识别”这一新方法。

“基于场景的风险识别涉及生成式人工智能开展‘可能出现什么问题’的模拟，基于组织如何使用各种生成式人工智能工具。然后，这些情景应为积极的弹性规划提供依据，包括业务连续性和事件响应计划。对抗生成式人工智能风险的韧性不仅仅是‘让人介入’。” 她解释道。“这是一个极大的简化。这是关于理解各种生成式人工智能循环的构成，风险在哪里，以及哪些人或事物能够在多长时间内有效管理它们。”

例如，考虑一家快餐公司试点使用生成式人工智能来处理免下车订单。一旦系统达到80%的使用率，它就会成为运营依赖的关键点。通过在达到这一点之前模拟故障模式，如订单误解或系统停机，该公司可以制定业务连续性计划并评估收入影响，而无需在技术投入使用后面临中断的风险。

同样的思考适用于制造业。当人工智能集成到生产计划、供应链或质量控制中时，它就成为业务成果的关键因素。因此，领导者应该提前模拟如果该系统失败或产生不一致输出可能会发生什么情况——而不是在推出后作为战术修复，而是作为战略优先事项提前进行。

**经验积累**

好消息是制造商已有实现这一目标的经验积累。失效模式和影响分析（FMEA）长期以来提供了一种系统的方法来识别系统可能如何崩溃及其后果是什么。换句话说，基于场景的风险识别框架已经存在；制造商需要做的就是将其进一步推向创新和开发过程的上游，并结合正确的跨职能团队来实施它。