AI反欺诈需多层防御与人机协作

快速阅读: Persona副总裁Alex Yen指出，信任基础设施需从一次性验证转向持续监控，应对欺诈者利用AI技术带来的挑战。AI虽强但需多因素方法辅助，结合人工审查以提高准确性与用户体验。

Persona 的产品架构副总裁 Alex Yen 在接受 PYMNTS 采访时说：“信任基础设施的核心是从一次性验证转变为持续监控、持续再验证，以及随时间维持信任。”他补充道，这需要能够像欺诈者一样快速适应的技术。

当欺诈自我思考时

欺诈者已经学会像对抗它们的企业一样有效地利用生成式人工智能。“这些技术本身并不新鲜，”Yen 说，“不同的是，它们从未像现在这样容易复制和创建。”他指出，能够生成令人信服的假文件、面孔或声音的工具“越来越容易获得”，使得检测难度呈指数级增加。

Yen 警告说：“有些欺诈行为甚至无法通过肉眼识别。我们遇到过系统检测出欺诈，而人工审核员却可能未能发现的情况。”为此，Persona 训练自己的机器学习模型来识别生成式人工智能欺诈尝试留下的痕迹或特征，Yen 说道。

为什么单靠 AI 不够

这些挑战揭示了 AI 的悖论：强大但不足以单独使用。“没有单一的万能药可以识别欺诈，”Yen 说。“这是一个迭代过程，需要采取多因素的方法。”这种多因素方法包括 Persona 所谓的多信号分析——从身份、设备行为、网络模式和元数据中关联数据，以检测在任何单一维度上都不可见的不一致之处。公司还构建反馈循环和多层次防御体系，而不是依赖“单一的庞大模型”，因为随着行为的变化，模型会漂移。“欺诈行为在变化，”Yen 说。“除非该模型能够适应……否则最终将需要人工干预来重新训练或更新它。”

信任的人类层面

对于 Yen 来说，“由 AI 辅助的人工审查”是可靠性的基石。这一判断在了解客户（KYC）和了解业务（KYB）的工作流程中尤为重要，AI 可以标记异常，但最终决定由人做出。“一个模型可以识别风险实体，”他说，“但我们不会说它可以决定 KYC 是否通过或失败。”

结合而非替代的方法产生了更准确的结果和更好的客户体验。

实际应用案例：Square 和 Branch

Yen 提到了与 Square 和 Branch 等合作伙伴的实际应用案例。当一家企业希望加入这些平台时，Persona 协调 KYB 和 KYC 检查，将 AI 效率与人工审查相结合。在文档层面，人工智能运行检查并生成文档摘要，供人工审核员据此作出更加明智和高效的决策。机器学习模型筛选假身份证件或虚假身份，系统整理结果以便快速的人工确认。Yen 说，这带来了“更快的审查速度、更少的误报、减轻的手动负担……以及一个既安全又高效的总体流程”。

人类在 AI 分析前后都会介入。在 AI 分析之前，自动化检测过滤明显的欺诈行为。之后，审核员验证标记的结果并确认合法提交。“如果可以非常简明高效地提供……我就能迅速完成最终检查，”Yen 说。这种双重结构在加快入职流程的同时保持了准确性。

持续的信任，而不仅仅是单次检查

AI 还加强了长期监控——Yen 描述的“持续再验证”是关键目标之一。欺诈很少只发生一次：“如果有人成功一次，他们就会尝试多次。这意味着他们在大规模实施欺诈。”Persona 的系统通过跨账户链接模式来识别协调的欺诈团伙，而不仅仅是孤立的事件。

同时，AI 实现了自适应摩擦——让好用户轻松，让坏用户逐渐难以得逞。“你可以假设每个人都有不良意图……但这将以降低转化率为代价，”Yen 说。通过动态分割用户并在出现风险信号时仅应用基于上下文的逐步增强措施，信任基础设施可以“为好用户提供更好的体验，同时也让坏用户更难得逞。”他强调，这是在人工智能驱动的世界中信任基础设施的本质——分层、动态且以人为本。

(以上内容均由Ai生成)