Google 将在印度扩大 AI 驱动的欺诈检测和安全运营

快速阅读: 《TechCrunch 技术紧缩》消息，谷歌在印度发布安全章程，聚焦反欺诈和网络安全，设第四家安全工程中心。通过AI技术打击线上骗局，保护用户安全，同时关注AI滥用和监控供应商威胁。

谷歌在印度发布了其安全章程，该章程将扩大其以人工智能为核心的反欺诈检测和打击全国范围内骗局的发展。这是该公司在美国以外的最大市场。印度的数字欺诈正在上升。与印度政府即时支付系统UPI相关的诈骗同比增长了85%，达到近110亿印度卢比（约1.27亿美元），根据政府数据。印度还出现了多起数字诈骗案件，骗子冒充官员通过视频通话或掠夺性贷款应用程序勒索钱财。

通过其安全章程，谷歌旨在解决这些问题中的某些方面。该公司还在印度设立了其第四家安全工程中心，此前已分别在都柏林、慕尼黑和马拉加设立。谷歌副总裁海瑟·阿德金斯在接受TechCrunch采访时称，在去年的谷歌印度峰会上宣布的安全工程中心（GSec）将使谷歌能够与当地社区展开合作，包括政府、学术机构、学生以及中小企业，共同开发解决方案以应对网络安全、隐私、安全及AI相关问题。谷歌已经与内政部的印度网络犯罪协调中心（I4C）合作提高对网络犯罪的认识，公司在一篇博客文章中表示。这基于其现有的工作基础，包括推出其在线欺诈识别项目DigiKavach，该项目于2023年推出，旨在限制恶意金融应用和掠夺性贷款应用带来的危害。

通过其印度安全工程中心，谷歌将聚焦三大重点领域，阿德金斯告诉TechCrunch：线上骗局与欺诈现象以及人们如何保障网上安全；企业、政府及关键基础设施的网络安全；以及构建负责任的AI。“这三个领域将成为我们印度安全章程的一部分，未来几年……我们希望借助我们在印度的技术实力解决印度面临的问题，靠近用户所在的地方，”阿德金斯说。

在全球范围内，谷歌正利用人工智能对抗线上骗局，并移除数百万个广告及广告账号。该公司计划更广泛地在印度应用人工智能以对抗数字欺诈。谷歌消息，这款预装于许多安卓设备的应用程序，采用了基于人工智能的诈骗检测技术，每月帮助保护用户免遭超过5亿条可疑信息的侵扰。同样，谷歌去年在印度试运行了Play Protect，声称已阻止近6千万次安装高风险应用的企图，在超过1300万台设备上阻止了超过22万个独特应用。谷歌支付，作为该国顶尖的基于UPI的支付应用之一，也发出了4100万次针对疑似骗局交易的警告。

——谷歌安全团队的创始成员阿德金斯，在与TechCrunch的采访中讨论了其他几个话题：

关于人工智能工具的滥用
阿德金斯称，最让她担心的是恶意行为者对人工智能工具的使用和滥用。“我们显然正在密切关注人工智能的发展，并且到目前为止，我们主要看到大型语言模型如Gemini被用作生产力增强工具。例如，用于使网络钓鱼骗局更加有效——特别是如果攻击者和目标使用不同的语言——他们可以利用翻译的优势，使用深度伪造、图像、视频等使骗局更具可信度，”阿德金斯说。

阿德金斯称，谷歌正在对其人工智能模型进行全面测试，以确保它们明白不应做什么。“对于可能产生有害内容及其可能采取的行为都至关重要，”阿德金斯说。谷歌正在制定框架，其中包括安全人工智能框架，以限制其Gemini模型的滥用情况。然而，为了在未来防止生成式人工智能被黑客误用或滥用，公司认为需要一个框架来构建多个代理通信的安全机制。“行业正在非常快速地推出协议。这就像互联网早期阶段，每个人都实时发布代码，而我们是在事后才考虑安全性，”阿德金斯说。

谷歌并不想仅限于引入自己的框架来限制生成式人工智能被黑客误用的范围。相反，阿德金斯表示公司正在与研究社区和开发者合作。“在早期研究阶段，你不应过度限制自己，”阿德金斯说。

关于监控供应商
除了黑客对生成式人工智能的潜在滥用外，阿德金斯还将商业监控供应商视为重大威胁。这些供应商包括如NSO集团之类的间谍软件制造商，以Pegasus间谍软件著称，或者其他出售监控工具的小型企业。“这些供应商遍布世界各地，允许你无需任何专业知识即可大规模攻击他人，”阿德金斯说。其中一些供应商还将其工具出售给包括印度在内的市场中的间谍活动。然而，除了受到监控工具的目标外，这个国家还面临其独特的挑战，部分原因是其规模。这个国家不仅见证了由人工智能驱动的深度伪造和语音克隆欺诈，还发生了几起数字逮捕事件，阿德金斯强调这些都是适应数字世界的普通骗局。“你可以看到威胁行为者自身是如何快速进步的……我非常喜欢在这个地区研究网络犯罪，因为它预示着我们将来会在世界其他地方看到的情况，”阿德金斯说。

关于多因素认证
谷歌长期以来一直鼓励用户采用比密码更安全的身份验证方式来保护其在线存在。过去，该公司为所有用户账户启用了多因素身份验证（MFA），并推广基于硬件的安全密钥，阿德金斯在提及员工积极使用笔记本电脑时提到这一点。无密码也成为了一个流行术语。尽管如此，在像印度这样人口众多且经济多样化的市场中，要求人们放弃密码是相当困难的。“我们早就知道密码是不安全的。这种多因素身份验证的概念是一种进步，”阿德金斯说，并补充说印度人可能更倾向于基于短信的身份验证而非其他MFA选项。

(以上内容均由Ai生成)