Boffins 设计了改变声音的技术来干扰“电话钓鱼”计划
快速阅读: 据《The Register》称，以色列和印度研究人员开发ASRJam系统，用EchoGuard算法干扰自动电话诈骗的语音识别。该技术在多个数据集和模型上表现出色，虽在Whisper上有待提升，但有望未来商业化。
以色列和印度的研究人员联合开发了一种针对自动电话诈骗的防御系统，名为ASRJam。这是一种旨在干扰语音识别系统的防御工具，采用了一种名为EchoGuard的声音修改算法，能够对电话中的语音施加自然音频扰动。这种扰动能让大多数语音识别系统感到困惑，但普通人仍然能够清晰理解。
近年来，由于机器学习、文本转语音（TTS）及自动语音识别（ASR）技术的进步，通过电话进行欺诈的自动化呼叫变得愈发普遍。这些被称为“网络电话钓鱼”的攻击行为——类似于基于邮件的网络钓鱼，只是用语音代替文字——已让犯罪分子得以利用TTS生成逼真的声音，传递他们希望受害者听到的信息。当受害者回应时，骗子的ASR系统会尝试将语音转化为文本，进而由后端模型分析内容、制定回复，引导对话深入，从而获取敏感信息或促使受害者采取行动。
根据CrowdStrike发布的2025年全球威胁报告，2024年上半年与下半年相比，网络电话钓鱼事件增长了442%。同一年，美国联邦贸易委员会指出，使用人工智能生成声音进行电话呼叫的行为属于违法。前美国空军情报分析师、Sysdig安全供应商网络安全策略师Crystal Morin在2024年12月对《The Register》表示，随着人工智能模型的不断优化，基于语音的网络钓鱼手段正变得愈发难以察觉。
本-古里安大学的Freddie Grabovski、阿米塔维达大学的Gilad Gressel和本-古里安大学的Yisroel Mirsky提出了一项应对网络电话钓鱼的技术方案，并在一篇预印本论文中详细描述了这一方法，题为《ASRJam：一种防范自动电话诈骗的人类友好型人工智能语音干扰系统》。
论文中提到：“我们的重要发现是，通过破坏ASR系统的性能，可以切断攻击链条。”为此，他们提出了一种基于通用对抗扰动的主动防御机制，即在音频信号中加入精心设计的噪声，让ASR系统感到困惑，同时保持人类听众的正常理解能力。
研究人员声称，他们是首个提出实用且可部署的自动语音诈骗防御手段的团队。ASRJam通过在最终用户的设备上实时运行EchoGuard算法来抵御网络电话钓鱼，这种方式对攻击者来说是隐形的，从而增加了绕过的难度。
EchoGuard同样具有通用性，适用于任何AI模型，并且无需依赖ASR模型的样本输出即可生成有效干扰音频。论文作者指出，尽管过去几年已有其他ASR干扰技术（如AdvDDoS、Kenansville和Kenku）出现，但它们并不适合互动场景；即使它们的扰动通常可以被理解，但在互动环境中却显得过于刺耳且不切实际。
相比之下，研究人员认为ASRJam更为优越，因为EchoGuard通过三种方式修改语音：混响、麦克风振荡以及瞬态声学衰减。通过对声音反射特性的调整、模拟麦克风位置的变化以及轻微缩短声音长度，他们认为这种方法在清晰度与愉悦感之间找到了最佳平衡点，这是基于一项涉及未明确人数参与者的调查得出的结果。
Gartner顶级分析师评论道：“人工智能未能充分发挥作用，应让我们自行解决。”
MiniMax M1模型从DeepSeek手中夺取了中文大型语言模型（LLM）的头衔，并且完全开源。机器人因对人工智能数据的需求旺盛而导致某些网站超负荷运转。英国的学生开始转向人工智能以协助他们作弊。研究人员还发布了一个网站，展示了原始语音样本及其经过EchoGuard和其他算法处理后的版本供对比查看。
研究者评估了ASRJam/EchoGuard与其他技术在三个公开数据集（Tedlium、SPGISpeech和LibriSpeech）以及六个ASR模型（DeepSpeech、Wav2Vec2、Vosk、Whisper、SpeechBrain和IBM Watson）上的表现。论文作者写道：“总体来看，EchoGuard在所有基准干扰器中始终保持优异表现。我们的方法在所有测试的ASR系统和所有数据集中均取得了最高的攻击成功率，唯一的例外是SpeechBrain（SB），在那里它稍逊于其他模型。”
作者认为这一点是可以接受的，因为SpeechBrain在实际部署中并不常见，整体ASR性能也较差。此外，他们注意到所有测试的自动语音识别干扰技术在OpenAI的Whisper模型面前表现欠佳，这可能是由于开发者在训练时使用了非常大的数据集，其中包含大量嘈杂样本，因此Whisper模型更能有效过滤对抗性噪声。
即便如此，EchoGuard在对抗Whisper模型时仍优于其他干扰器。“至关重要的是，虽然Whisper上的绝对攻击成功率看似较低（例如，在LibriSpeech数据集上仅为0.14），但这依然意味着六分之一的转录结果受到显著影响，这种降级程度足以干扰诈骗对话，特别是在互动对话中，关键词或意图的误识别可能会导致大型语言模型生成偏离轨道，”他们指出。
首席研究员Grabovski告诉《The Register》，他认为未来工作将进一步提升ASRJam和EchoGuard在Whisper模型上的性能。“ASRJam目前是一个研究项目，但我们正在积极努力改进，目标是在不久的将来实现商业化。”
(以上内容均由Ai生成)
