AI部署加速，安全准备不足成隐忧

快速阅读: 思科研究显示，AI快速部署正重塑企业风险观，多数组织面临系统和安全压力。“领跑者”通过升级基础架构、加强安全治理获得显著回报，而忽视“AI基础架构债务”的公司可能面临技术和财务后果。

据思科公司表示，人工智能（AI）的快速部署正在重塑企业对风险的看法。一项全球研究发现，尽管大多数组织正迅速采纳AI技术，但许多组织尚未准备好应对由此带来的系统和安全压力。

少数公司已经领先一步。这些“领跑者”将AI准备视为其长期战略的一部分。他们规划扩展规模，建设坚实的基础架构，并重视安全性。

研究人员提出了“AI基础架构债务”的概念，指在从未设计用于支持AI的系统上部署AI时产生的差距和延迟。这些差距会增加摩擦，提高成本，并随着时间推移扩大安全风险。

许多公司承认其基础架构无法跟上AI的需求。很少有公司对其系统能否随AI工作负载扩展感到自信。同样的问题也出现在安全性方面。只有少数组织声称能够保护自己运行的AI系统。

数据保护和访问控制仍是薄弱环节，且缺乏监控工具。曾经保护应用程序和用户的控制措施可能无法延伸到自主决策和行动的AI系统。

代理AI带来新的攻击面

大多数公司计划使用代理AI，这类系统能够在无需持续监督的情况下执行任务、与其他软件通信并作出运营决策。这些代理可以自动化客户服务、管理供应链或检测威胁。然而，它们也扩大了攻击面。如果其中一个被错误配置或遭到入侵，可能会在整个互联系统中传播问题。

许多组织尚未决定如何控制或监控这些代理。一旦代理开始处理部分业务操作，大部分公司没有制定人类监督的计划。这可能导致部署速度超过防御能力。

安全漏洞已显现

即使在代理系统到来之前，许多公司在基本准备方面也面临挑战。计算成本上升、数据集成有限和网络压力是常见问题。很少有公司具备大规模AI所需的数据集中化和可靠基础设施。

加密、访问控制和篡改检测的应用不均衡。许多团队仍将这些视为独立的附加功能而非内置的安全保障。这种零散的方法使得早期发现问题并及时解决变得更加困难。

领跑者采取不同的方法。他们将安全性融入AI项目的中心，先升级基础架构再扩展规模，并加强对AI使用的治理。这种纪律性赋予他们在工作负载增加和新威胁出现时更大的灵活性。

忽视债务的风险

AI基础架构债务并非一蹴而就，而是随着升级推迟和临时解决方案累积缓慢形成。最初可能是计算或数据管理上的小差距，最终可能演变为限制增长和招致攻击的弱点。

如果不加以解决，这种债务可能会减缓创新进程并削弱对AI系统的信任。每个新模型、数据集和集成点都可能成为潜在的攻击面。没有持续的投资，很难了解敏感信息的位置及其保护情况。

及早解决这些问题的组织可以降低长期成本并建立可信赖的系统。那些推迟工作的公司将面临技术和财务上的双重后果。

准备度推动价值

“我们正从问答聊天机器人的时代迈向AI的新阶段：能够独立执行任务的代理系统。”思科总裁兼首席产品官Jeetu Patel表示，“我们的研究表明，超过80%的公司正在优先考虑代理解决方案，其中三分之二的公司报告称，这些系统的表现已经达到或超过了预期目标。这表明了一个巨大的竞争优势：走在前列的公司比同行获得了显著更强的回报。”

尽管研究警告存在重大缺口，但也展示了进步的样子。领跑者更有可能报告在盈利、生产力和创新方面的显著收益。几乎所有领跑者都在为未来需求设计基础架构，并维持强大的治理框架。

AI的价值取决于支持它的系统。对于大多数企业而言，最大的障碍不是技术本身，而是能否安全且大规模地管理它。

下一阶段的AI将考验这种准备度。提前规划、现代化并尽早嵌入安全性的公司将会塑造技术如何安全发展。而拖延的组织可能不得不偿还随着每次部署而变得更昂贵的基础架构债务。

(以上内容均由Ai生成)