部署 AI 代理的危险业务

快速阅读: 据《电力走廊》最新报道，许多公司被人工智能代理的热潮所吸引，但忽视了潜在风险。SS&C蓝棱镜的副总裁夏提什·谢诺伊指出，缺乏人类监督的自主系统可能带来更大风险。企业应采取治理、技术和道德等多重防护措施来管理这些风险。谢诺伊建议从小规模部署开始，确保目标明确，以避免财务、声誉和监管损失。

许多公司被人工智能代理的热潮所迷惑，可能没有充分关注随之而来的潜在风险。SS&C蓝棱镜的全球技术联盟和人工智能战略区域副总裁夏提什·谢诺伊表示，人工智能代理不仅面临与普通语言模型相同的问题，其自主性质可能导致风险成倍增加。企业快速采用这项技术只会加剧这些危险。“当你创建这些自主系统时，缺乏人类监督，你只能祈祷代理的输出符合你的预期。”谢诺伊说。

人工智能代理旨在独立地与企业的多个不同部分互动。因此，数据安全失误、合规性和治理问题以及人工智能代理的质量问题可能会产生“连锁效应”，谢诺伊说，因为代理的访问增加了攻击面。但这并不意味着应完全避免使用人工智能代理，谢诺伊表示。企业需要了解他们将要面对的情况，并在深入前采取防护措施。

谢诺伊表示，有几种不同的预防措施可以帮助管理代理，所有这些都应由企业考虑：一种是治理和风险管理防护措施，在这种措施中，企业领导者评估在任何特定情况下实施代理的风险和回报。这包括考虑监管要求，谢诺伊补充道。

谢诺伊表示，有几种不同的预防措施可以帮助管理代理，所有这些都应由企业考虑：另一种是技术防护措施。尽管人工智能发展迅速，这些措施可能随时调整，但可观测性和监督可以帮助企业理解代理在不同条件下的表现。最后是道德防护措施，如透明度和关于如何以及为何使用人工智能代理的解释。他说：“你需要审计并应该审计人工智能代理所做的任何决定。”

尽管科技行业目前对代理型人工智能感到兴奋，但重要的是不要让炒作压倒常识：在一头扎进去之前，先思考一下你为什么需要这项技术。“首先要明确你的目标，”谢诺伊说，“不要用大锤打苍蝇。”谢诺伊表示，从小规模部署特定用例开始，并彻底分析结果，可以防止企业在财务、声誉和监管方面因代理失控而受损。他补充道：“采用速度实际上已超过治理框架部署速度。”

(以上内容均由Ai生成)