政客解决敏感问题的 Deepfake AI 视频威胁国家安全 – 专家

发布时间：2025年3月13日来源：szf

快速阅读: 据《太阳报》最新报道，吉隆坡——专家警告，AI深度伪造视频可能威胁国家安全，尤其当涉及政治人物且针对敏感议题时。马来西亚理科大学教授曼尼卡姆指出，此类视频可被用作制造冲突或操控舆论的工具，并举例印尼、印度和斯洛伐克的相关事件。尽管检测需专业知识，他建议公众仔细核实新闻来源以避免被误导。

吉隆坡：
社交媒体平台上生产和传播的深度伪造AI视频，尤其是涉及政治人物并针对敏感问题的视频，对国家安全构成了重大威胁。马来西亚理科大学网络安全部主任、教授曼尼卡姆博士近日在接受Bernama采访时指出，在极端情况下，深度伪造AI视频还可用于模拟攻击或发起“假旗”行动，这可能在国际层面引发冲突甚至战争。

社交媒体平台上生产和传播的深度伪造AI视频，尤其是涉及政治人物并针对敏感问题的视频，对国家安全构成了重大威胁。

他是在回应最近出现的涉及美国总统唐纳德·特朗普和马来西亚总理达图克·斯里·安瓦尔·易卜拉欣的AI深度伪造视频及其对国家安全的重大影响时作出上述表态的。疯传的AI深度伪造视频显示特朗普和安瓦尔正在交谈，讨论地缘政治问题和双边外交关系，同时推广一种据称能带来多重利润的投资计划。

涉及这两位领导人的AI深度伪造视频最初出现在X平台和TikTok上，随后传播至其他社交平台，例如Facebook和WhatsApp消息应用。截至目前，美国驻马来西亚大使馆及总理办公室均未对这段涉及领导人对话的AI深度伪造视频传播发表官方声明。

然而，如果对这种AI深度伪造视频的生产和传播不加以遏制，人们担忧这可能影响政治稳定，削弱公众对政府的信任。

曼尼卡姆认为，AI深度伪造视频可能被某些势力用作利用马来西亚政治敏感性和社会动态制造冲突或操控舆论的有力工具。

然而，如果对这种AI深度伪造视频的生产和传播不加以遏制，人们担忧这可能影响政治稳定，削弱公众对政府的信任。

他提到，此前已有案例显示AI深度伪造视频对世界领导人及一国的重大事件产生了重要影响。他举例说明，在印尼，曾有AI深度伪造视频流传，显示前总统（已故）鼓励民众外出投票。

“在印度，有人利用AI深度伪造录音传播虚假言论；而在斯洛伐克，选举前曾分发模仿自由派候选人的AI深度伪造音频录音，这被认为影响了该国选举结果，”他说。

曼尼卡姆指出，涉及马来西亚和美国领导人的AI深度伪造视频所使用的AI技术已经发展到能够高度准确地模仿唇部动作、语音语调和面部表情的程度。

他说，对于受过训练的人来说，检测AI深度伪造视频相对容易，可通过技术方面如口型与声音的不匹配、脸部和物体上的光线和阴影不一致等来识别。

曼尼卡姆指出，涉及马来西亚和美国领导人的AI深度伪造视频所使用的AI技术已经发展到能够高度准确地模仿唇部动作、语音语调和面部表情的程度。

“然而，普通公众由于缺乏技术知识，需采取不同方式避免被深度伪造视频误导，”曼尼卡姆建议用户仔细检查新闻来源。