AI 代理如何帮助黑客窃取您的机密数据 – 以及如何应对

快速阅读: 《ZDNet》消息，网络犯罪分子正利用人工智能提升其攻击效率，如账户劫持和社会工程等手段。Gartner警告称，未来几年此类攻击可能加剧。为应对AI驱动的威胁，企业和个人需加强身份验证、培训员工并利用AI工具提高安全性。

肖恩·格拉德威尔/视觉中国

像许多其他人一样，网络犯罪分子正在利用人工智能来提升他们的工作效率，使其更加高效、轻松且更具智慧。通过自动化机器人、账户劫持和社交工程技术，聪明的欺诈者已经懂得如何借助AI增强传统手段。根据Gartner的一份最新报告，这种趋势正在逐步显现，并且在未来几年可能会变得更加严重。

Gartner副总裁分析师杰里米·德·霍伊内指出，账户劫持之所以成为一种持续存在的攻击途径，其中一个主要原因是认证机制薄弱。攻击者可以采用多种方法获取账户密码，比如数据泄露和社会工程手段。此外：

**2025年应对AI驱动的网络威胁：企业需掌握的四个专家级安全建议**

一旦密码被破解，人工智能便开始发挥作用。网络犯罪分子会利用自动化的AI机器人，在众多服务中尝试多次登录。其目的是检查这些相同的凭据是否被广泛应用于多个平台，并期望它们能够在某些有利可图的平台上有所收获。当找到合适的网站后，犯罪分子能够收集所有相关信息完成账户接管。如果黑客不愿意亲自实施攻击，他们可以直接在暗网出售这些信息，而那些有兴趣的买家会迅速接手。

“账户接管（ATO）依然是一个持续存在的攻击途径，因为弱认证凭据，例如密码，可以通过多种方式获取，包括数据泄露、网络钓鱼、社会工程和恶意软件等，”德·霍伊内在报告中提到，“随后，攻击者利用机器人自动尝试在各种服务上登录，希望这些凭据已经被重复使用到多个平台。”

有了人工智能作为其武器库的一部分，攻击者可以更轻易地实现账户接管所需的每一步骤自动化。随着这一趋势的增长，Gartner预测，在未来的两年内，账户接管所需的时间将减少一半。

除了协助账户接管外，人工智能还能帮助网络犯罪分子进行深度伪造活动。即便是在当下，攻击者也在结合社会工程战术与深度伪造音频和视频。通过拨打不知情员工的电话并冒充值得信赖的联系人或高管的声音，诈骗者希望诱使对方转移资金或泄露机密信息。

只有少数高调案例被公开报道，但它们给受害公司带来了巨大的经济损失。检测深度伪造语音依然是一项挑战，特别是在一对一的语音和视频通话中。随着这一趋势的发展，Gartner预计到2028年，40%的社会工程攻击将针对高管以及普通员工。

“组织必须跟上市场的步伐，并调整程序和工作流程，以试图更好地抵御利用假象现实技术的攻击，”Gartner高级总监分析师曼努埃尔·阿科斯塔说道，“通过使用专门针对社会工程学和深度伪造的培训来教育员工关于不断演化的威胁形势是一个关键步骤。”

**阻止AI驱动的攻击**

个人和组织应该如何阻止这类AI驱动型攻击？

“为了对抗来自AI驱动攻击的新挑战，组织必须利用AI驱动的工具，提供粒度实时环境可见性和报警功能，以增强安全团队的能力，”安全提供商Darktrace的高级副总裁尼科尔·卡里根表示。

此外：“在适当情况下，组织应通过集成机器驱动响应，无论是自主模式还是人类参与模式，来提前应对新威胁，以加快安全团队的响应速度，”卡里根解释道，“通过这种方法，采用AI技术——如具有基于异常检测能力的解决方案，能够检测和响应前所未见的威胁——对于保持组织安全至关重要。”

其他有助于防止账户被篡改的工具有多因素身份验证和生物识别验证，例如面部或指纹扫描。“网络犯罪分子不仅依赖被盗凭证，还依赖于社会操控来突破身份保护，”Keeper Security首席信息安全官詹姆斯·斯科比说，“深度伪造在这个领域尤其令人担忧，因为AI模型使这些攻击方法更快、更便宜、更有说服力。随着攻击者变得越来越复杂，需要更强、更动态的身份验证方法——例如多因素身份验证（MFA）和生物识别——对于防御这些日益复杂的威胁至关重要。MFA对于防止账户接管至关重要。”

在报告中，Gartner还提供了几条应对社会工程和深度伪造攻击的建议：

– **对员工进行教育**：为员工提供有关社会工程和深度伪造的培训。不过，不要仅仅依赖或主要依赖他们的检测能力。

– **针对潜在风险交互设置额外的验证措施**：例如，任何通过电话向员工请求保密信息的行为都应在另一个平台上进行核实。设立一个员工可以拨打确认敏感或保密请求的电话号码。

– **超越回拨政策**：消除单个电话或请求可能造成的麻烦风险。例如，如果自称是首席财务官的人要求转移一大笔钱，请确保该行动不能在未经首席财务官或其他高层管理人员咨询的情况下进行。

– **及时了解实时深度伪造检测**：了解可用于检测音频和视频通话中使用的深度伪造的新产品或工具。由于这项技术仍在发展，因此请务必补充其他识别来电者的方式，例如唯一ID。

想了解更多关于人工智能的故事吗？

订阅《创新》，我们的每周电子报。

**人工智能**

2025年最佳编码AI（以及不推荐使用的——包括DeepSeek R1）

我测试了DeepSeek的R1和V3编码技能——我们还没全完完蛋（至少目前还没）

如何从Microsoft 365计划中移除Copilot

如何在MacOS上安装LLM（以及为什么你应该这么做）