除了检测爬虫程序之外，在 AI 时代，一切都与意图有关

快速阅读: 据《Beta新闻》最新报道，本文探讨了人工智能时代下区分机器人与人类已不再重要，关键在于识别意图。传统安全措施难以应对复杂威胁，需转向基于意图的安全系统，以区分善意与恶意行为，保护企业和客户。

在人工智能时代，识别意图比区分机器人和人类更重要
本杰明·巴里尔 发表于 31 分钟前 无评论

过去二十年来，网络安全团队一直专注于识别“什么是机器人，什么不是”。在过去几年中，这一重点略有转移，安全团队将大部分注意力集中在最复杂的机器人上。

过去一年人工智能的新发展增加了新的复杂性，随着有益的商业机器人（如复杂的AI代理）的出现，区分机器人与人类的任务已经从二元任务变得复杂化了。

在一个AI可以用于善举，而人类活动可能具有恶意的时代，仅仅检测并阻止自动化活动已经不够了。这些超智能、积极的AI的发展意味着安全团队不仅需要关注“是机器人还是不是”，还需要关注AI背后的意图。

机器人界限的模糊化

过去，好机器人和坏机器人之间通常有明确的区别。“好的自动化”行为简单直接，例如遵循可预测模式的基本网络爬虫；检查网站更新的RSS阅读器；以及定期ping网站以检查其是否正常运行的简单监控机器人。

但如今，合法的商业机器人——如SEO工具和AI代理——被设计得像人类一样复杂，并使用许多网络安全团队之前在恶意机器人中看到的技术方法。例如，AI代理通常能够解决验证码，模仿人类浏览模式，并以人类的方式与Cookie进行交互。

与此同时，随着好机器人和坏机器人的复杂性增加，人类攻击者也在进步。这些网络犯罪分子拥有丰富的手段，无论是使用机器人还是不使用机器人。

但如今，合法的商业机器人——如SEO工具和AI代理——被设计得像人类一样复杂，并使用许多网络安全团队之前在恶意机器人中看到的技术方法。例如，AI代理通常能够解决验证码，模仿人类浏览模式，并以人类的方式与Cookie进行交互。

坏人不需要机器人就能制造混乱：他们可以利用社会工程技巧找到组织网络安全策略中的漏洞并利用个人。十年前，一封钓鱼邮件可能显得可笑，但攻击者已经进化并从错误中吸取教训，现在这些信息足够令人信服，甚至能骗过精明的员工和个人。

仅仅因为有人类访问你的服务并不意味着他们没有机器人的帮助；历史上，通常会有一个“人在回路”来执行验证码等认证过程并做出决定。今天，代理AI作为合法或非法操作它的人员的代理自行做出决策。

仅仅因为用户看起来像人类并不意味着他们有良好的意图，仅仅因为活动是自动化的并不意味着它是恶意的。所以真正的问题不是谁（或什么）访问了你的网站，而是为什么。意图是合法的，比如搜索引擎爬取索引？还是恶意的，比如AI机器人试图抓取数据或入侵账户？

识别意图

转向基于意图的安全措施意味着组织需要从根本上改变对网络安全威胁的看法。让我们看看组织可以在三个机会中测试意图，而不是简单地阻止自动化活动。

第一种方法是查看高级行为分析。这些系统通过跨多个会话追踪模式来解析正面和负面意图。例如，一个合法的价格比较抓取机器人可能会每天两次以固定间隔访问100个产品页面，而一个恶意的数据抓取机器人可能会在一天中随机访问10,000个页面，每次使用不同的IP地址。

通过随着时间推移观察这些模式，网络安全团队可以区分具有不同意图的类似技术动作。

一旦组织明确了正常行为模式，就更容易识别和标记异常情况。由AI驱动的异常检测会学习不同用户群体的典型行为模式。让我们以在线银行服务为例。

通过异常检测，组织或许会发现某个已认证用户突然访问了从未涉足过的账户门户区域，并尝试将资金转移到不同的账户。即便该用户持有有效凭证，这种行为仍会在异常检测中被视为异常，并及时阻止交易以防止灾难发生。

另一种方式是评估每位用户或会话对系统计算资源的消耗程度，但应基于灵活且情境相关的限制，而非统一标准。例如，一家电子商务零售商可能目前设置了静态速率限制，以阻止任何尝试每分钟发出超过100个请求的IP地址。

这种系统在正常购物期间可能表现良好，但在黑色星期五或节礼日等高峰购物日期，购物者经常浏览各种不同的商品，因此可能会被阻止。同时，先进的抢购机器人可能能够保持在阈值以下，并成功抢购限量商品以高价出售。

这就是动态资源监控发挥作用的地方。一个合法用户通常会探索不同的选项，考虑他们的选择，并有时放弃购物车，这意味着他们使用的资源量是多样的。但抢购机器人（即使是复杂的机器人）通常只会关注特定的高价值产品页面，而不点击网站其他部分。

此外，如果恶意行为者使用多个抢购机器人，系统应该能够发现数十个甚至数百个看似“不同”的用户都遵循相同的资源消耗模式。通过意图分析，这种活动将会被标记并立即制止，保护零售商在真实客户中的声誉。

朋友还是敌人？

对人类和机器人活动的二元方法已不足以保护组织及其客户。人类不一定是朋友，机器人也不一定是敌人。这就是为什么我们需要同样智能的安全措施——应对恶意意图需要更先进的AI。

企业需要具备与威胁同等灵活性的安全解决方案——能够实时区分好AI和坏AI。与传统安全方案不同，后者每次出现新型攻击手段时都需要更新，基于意图的系统能够依据异常行为识别出新威胁。

唯有这种方法能够适应当前攻击者（无论人或机器）日益增长的复杂性。

图片来源：
Wanniwat Roumruk / Dreamstime.com

本杰明·巴里尔是DataDome的联合创始人兼首席战略官

无评论

转发

(以上内容均由Ai生成)