骗子利用 AI 欺骗寻找爱情的孤独者

快速阅读: 《印度教徒》消息，Meta警告用户警惕利用深度伪造技术行骗的恋爱骗局。骗子通过生成式AI工具改变面容和声音，骗取钱财。这类活动在冬季和情人节前后尤为猖獗。Meta已在旗下应用中部署检测系统，但仍需用户保持警惕，核实对方身份。Meta去年关闭了超过408,000个涉骗账号。

Meta周三警告互联网用户要警惕打着恋爱幌子实则索要钱财的网友，因为骗子正在利用深度伪造技术来诱骗那些寻找爱情的人。“这是骗子工具箱中的新工具，”Meta全球威胁破坏政策总监大卫·阿格拉诺维奇在简报会上告诉记者。“这些骗子不断进化，我们必须不断进步以保持正确。”据阿格拉诺维奇称，Meta旗下的应用程序（包括Instagram和WhatsApp）的检测系统主要依赖行为模式和技术信号，而不是图像，这意味着即使有AI的花招，也能监测到骗子的活动。“这使我们的检测和执行在某种程度上更能抵抗生成式AI的影响，”阿格拉诺维奇说。

阿格拉诺维奇举例说明了一个最近被阻止的计划，该计划显然起源于柬埔寨，并针对使用中文和日语的人群。根据Meta的说法，OpenAI的研究人员确定，这个“诈骗复合体”似乎正在使用人工智能公司的工具来生成和翻译内容。生成式AI技术已经存在一年多，但据“道德黑客”和社会证明安全公司首席执行官瑞秋·托巴克在简报会上表示，近几个月来，骗子们对其使用的强度显著增加。

大型公司提供的免费生成式AI工具让骗子能够在视频通话中改变自己的脸和声音，假装成别人。“他们还可以使用这些深度伪造机器人，允许你构建一个人物形象或通过语音克隆进行电话呼叫，实际上不需要真人参与，”托巴克说。

随着冬日的孤寂感和忧郁情绪以及情人节的到来，骗子们看到了可乘之机。“我们确实看到，在寒冬季节，骗子们利用这种孤独感激增，”托巴克说。骗子的主要目标是钱财，他们通过快速建立信任，然后编造需要现金或个人信息的理由来获取资金或访问金融账户。“保持谨慎并核实对方身份很有帮助，”托巴克说。

阿格拉诺维奇表示，Meta只看到了社交应用中骗子活动的一部分。去年，Meta从西非国家下线了超过408,000个账号，这些账号被骗子用来冒充军人或商人，与澳大利亚、英国、欧洲、美国及其他地区的用户进行恋爱接触。除了打击恶意网络，Meta还在测试面部识别技术，以检查其系统检测到的潜在在线假冒者或由用户报告的假冒者。

(以上内容均由Ai生成)