AI 代理的采用正在推动机会、威胁和 IT 预算的增加

快速阅读: 《ZDNet》消息，调查显示，机构正增加安全预算以应对日益复杂的网络威胁。安全负责人认为人工智能既带来挑战也创造机会，但合规性和透明度仍是主要挑战。报告预测，随着人工智能的普及，技能需求和监管复杂性将持续上升。

千野裕之（千野裕之）/盖蒂图片社

在人工智能驱动的经济中，数据安全不再是一项形式化的工作。相反，安全性是您组织内部以及与客户互动中建立信任和创新的催化剂。

这是来自Salesforce《IT现状》报告得出的结论，该报告调查了全球超过4000名IT决策者，其中包括超过2000名专注于安全、隐私或合规的专业人士。这项调查旨在了解快速发展的网络安全威胁及安全重点，并建议如何在一个由人工智能驱动的世界中建立客户信任，以及如何利用人工智能改善安全态势。以下是报告的主要发现：

**安全预算正在增加**
四分之三的机构预计预算会增加，以应对从数据投毒到更高级威胁检测的一切问题。

**信任至关重要**
近三分之二（64%）的用户认为公司处理数据的方式过于随意，61%的人认为随着人工智能的进步，公司保护数据变得更加重要，这凸显了组织优先考虑数据管理的重要性。

**合规性复杂化**
超过三分之二（68%）的安全负责人表示，随着监管环境快速变化，合规难度加大，43%的人感到自己未准备好应对潜在的人工智能相关法规。

**人工智能可以加强防御**
尽管79%的安全负责人认为人工智能代理会带来新的安全与合规挑战，但80%的人认为人工智能代理会带来新的安全机会。

**IT安全预算正在增加**
根据《IT现状》报告，最令人担忧的五大安全威胁分别是云安全、数据投毒、恶意软件、网络钓鱼和勒索软件。而最有效的五大安全策略则是数据加密、数据备份与恢复、身份与访问管理、零信任策略以及数据屏蔽。

此外：
**电子表格的消亡：为什么人工智能很快将成为主导的企业报告工具的六大原因**
调查显示，75%的IT组织计划增加其IT安全预算，只有2%预期预算会减少。合规管理也变得更加困难，68%的安全负责人表示，在不断变化的法规下，合规性更加困难。几乎一半（43%）的安全负责人表示他们没有准备好应对围绕人工智能的潜在监管变化。

**人工智能创造机遇与威胁**
商业中使用人工智能代理的数量正在快速增长。人工智能代理可以自主采取行动并充当数字劳动力。然而，安全负责人承认，如果没有适当的治理，人工智能代理可能会引入新的安全和合规挑战。因此，首席信息官将安全和合规视为他们对人工智能的最大关注点，并且是在选择人工智能供应商时的首要标准。

安全负责人还看到人工智能代理为安全和合规提供了强大的优势和新机会。超过四分之三（79%）的安全负责人认为人工智能代理带来了新的安全挑战。调查显示，80%的安全负责人认为人工智能代理带来了新的安全机会。具备适当编程技能的人工智能代理可以增强威胁检测、自动化漏洞管理，并支持大规模的合规工作。

**商业中使用人工智能代理的数量正在快速增长。人工智能代理可以自主采取行动并充当数字劳动力。然而，安全负责人承认，如果没有适当的治理，人工智能代理可能会引入新的安全和合规挑战。因此，首席信息官将安全和合规视为他们对人工智能的最大关注点，并且是在选择人工智能供应商时的首要标准。**

**人工智能时代的安全性**
人工智能从根本上改变了网络安全格局。报告显示，75%的安全负责人认为人工智能驱动的网络威胁将很快超越传统防御手段，79%的人认为随着人工智能使用的增加，他们的安全实践必须转型。

此外：
**福瑞斯特称，人工智能代理为大胆的早期采用者带来了巨大的风险和回报。**

IT领导者看到了以下来自人工智能的威胁：数据泄露、隐私问题、数据投毒、人工智能驱动的威胁、模型供应链攻击、对抗性攻击以及偏见和歧视。报告还指出，大多数安全负责人认为人工智能驱动的网络威胁可能很快超越传统防御手段，强调了需要新的战术和持续警惕的重要性。

那么，人工智能代理如何改善组织的安全态势？以下是人工智能代理可以帮助的一些方式：

– **威胁检测与响应**：标记异常活动并协调事件修复，尽量减少延迟
– **模型偏差识别**：持续审查人工智能模型中的偏差和漏洞，确保公平性和可靠性
– **合规自动化**：跨系统追踪政策执行情况，减少人工监督

IT报告的一个重要发现是，所有安全负责人认为人工智能代理可以在至少一个安全问题上有所改进。通过将重复或高容量任务交给代理，团队可以重新集中精力于更高层次的战略——当威胁增长速度超过大多数安全团队能够跟上的时候，这是一个至关重要的转变。

**人工智能代理的合规性和治理**
在这个领域，组织还有提升的空间。调查显示，55%的安全负责人对部署带适当防护措施的人工智能代理缺乏信心，53%的人对部署符合法规和标准的人工智能代理缺乏信心。

尽管人工智能治理的责任仍在发展中，超过70%的安全负责人表示他们已经制定了人工智能安全和隐私协议，64%的人明确了人工智能开发和治理的角色和职责。

此外：
**为什么远程办公仍然是小型企业成功的关键秘密武器**
实现合规性的路径是透明度。根据Salesforce的研究，42%的用户表示，了解人工智能的应用方式会增强他们对人工智能的信任。另有31%的用户表示，人工智能输出的可解释性会增强信任。

IT领导者认识到与客户保持透明的重要性。超过四分之三（77%）的安全负责人认为客户在与人工智能互动时会意识到这一点，81%的人认为客户理解他们的信息如何被组织的人工智能系统和应用程序所使用。

另一个建立信任的关键基础要素是可解释性。在积极使用人工智能的组织中，70%的安全负责人认为人工智能的准确性和可解释性是一个问题，不到一半的人完全有信心能解释人工智能的输出。

**建立客户对代理的信任**
调查显示，客户对公司的信任正在减弱。将近四分之三（71%）的用户表示他们对公司信任度降低，高于2023年的52%和2022年的47%。用户表示，随着组织为其人工智能产品提供保护措施、透明地使用人工智能、提高人工智能输出的准确性并接受客户反馈，他们对人工智能的信任将会增加。

IT领导者认为信任是客户采用人工智能服务的关键条件。调查显示，64%的安全负责人认为客户因安全或隐私问题而犹豫是否采用人工智能服务。

此外：
**技术领导者似乎正急于部署代理型人工智能——这就是原因**

报告的一项重要发现是隐私行业标准与其解释人工智能生成结果能力之间的差距。虽然超过90%的安全负责人认为他们的组织在隐私政策及其围绕安全、透明度和信任的文化方面处于行业平均水平或之上，但不到一半的人认为他们的组织在解释人工智能输出、准确的输出以及向客户透明其数据如何被用于人工智能系统方面表现出色。

研究最后得出了以下关于关键趋势和考虑因素的预测：

– **持续的监管复杂性**：随着不同地区出现人工智能法规，合规管理将是一个持续的过程。
– **主动采用人工智能**：拥抱人工智能代理作为安全盟友而非恐惧它的公司将发现新的效率和差异化机会。
– **持续的技能进化**：安全角色将持续演变，要求掌握人工智能监督、数据治理和道德决策等新技能。

要了解更多关于《IT现状：安全》报告的信息，您可以访问这里。

**人工智能**
– 最优秀的AI图像生成器在以往表现不佳的领域变得非常优秀。
– 2025年最佳编码人工智能（包括两个新首选项——以及不该用什么）。
– 我测试了10个人工智能内容检测器——而这5个每次都能正确识别人工智能文本。
– 遇见最重要的AI工具——无人谈论但每个人都需要的工具。
– **电子表格的消亡：为什么人工智能很快将成为主导的企业报告工具的六个原因**。
– 在工作中使用人工智能？一项新研究表明你可能正在损害你的声誉。
– 最优秀的AI图像生成器在以往表现不佳的领域变得非常优秀。
– 2025年最佳编码人工智能（包括两个新首选项——以及不该用什么）。
– 我测试了10个人工智能内容检测器——而这5个每次都能正确识别人工智能文本。
– 遇见最重要的AI工具——无人谈论但每个人都需要的工具。
– **电子表格的消亡：为什么人工智能很快将成为主导的企业报告工具的六个原因**。
– 在工作中使用人工智能？一项新研究表明你可能正在损害你的声誉。

(以上内容均由Ai生成)