深度伪造正在测试美国治理的极限

快速阅读: 据《生物识别更新》最新报道，美国人工智能快速发展的背景下，合成媒体威胁个人隐私与国家安全。国会提议十年内冻结州及地方人工智能监管，引发争议。支持者认为这能避免法律冲突，促进联邦统一监管；反对者担忧这可能导致安全漏洞和滥用。专家呼吁建立平衡创新与信任的监管框架，强调主动、适度的合成媒体监管至关重要。

在美国，人工智能的快速发展引发了社会的深刻焦虑，尤其是在合成媒体的兴起对个人隐私与国家安全构成威胁的背景下。这场争论的核心在于众议院能源和商业委员会预算协调法案中悄然添加的一项条款，该条款提议在未来十年内冻结所有州和地方的人工智能系统监管，包括深度伪造在内的生成内容。若此冻结措施生效，将禁止各州及地方司法管辖区制定或执行管理人工智能模型及其决策系统的法律。

共和党支持冻结的理由是为了避免各州间出现相互冲突的法律，从而促进联邦层面的统一监管。然而，深度伪造技术正以前所未有的速度和强度蔓延，这种全面的联邦优先权可能带来灾难性的后果。根据Sumsub发布的2025年报告，深度伪造事件同比激增了245%。这一增长不仅仅是一个统计数据，它正在深刻影响着人们的日常生活、机构运行及经济稳定。调查显示，26%的高管表示其财务或会计部门在过去一年内成为深度伪造驱动的欺诈目标。技术的易用性和经济性加速了其滥用，使得不具备专业知识的恶意行为者也能轻松生成逼真的实时虚假声音、图像和视频。

相比之下，立法回应的步伐显得迟缓。大多数现有的法律仅在伤害发生之后才着手处理深度伪造问题，把检测和应对通常延迟到违规行为已经变得显而易见才采取行动。同时，国家层面的监管惰性与各州更加积极的探索形成了鲜明对比。过去两年，各州已出台超过120项与深度伪造相关的法律，涵盖了从非自愿色情图像到政治虚假信息的多个领域。加州在一个单月内通过了八项关于合成媒体的法案。田纳西州和爱荷华州已将具有性暗示的人工智能生成内容定为刑事犯罪，新泽西州则对恶意深度伪造制作处以最高3万美元的罚款。这些州级法律不仅展现了立法创新，也清晰传达了公众希望确保数字空间免受欺骗的决心。

“我们正处于一个极其危险的时期，我们在所有事情上都在防守，”加利福尼亚州民主党立法议员乔希·洛桑德尔说道。“任何全面的州和地方监管预emption都会制造潜在的安全漏洞，可能让公民和组织暴露在新兴威胁之下。”Reality Defender创始人兼首席执行官本·科尔曼也指出：“平衡监管框架的合作开发——连同技术解决方案——代表了通往既能促进创新又能建立信任的AI景观的最可行路径。”

然而，实际情况进一步突显了紧急干预的必要性。例如，今年四月，联邦调查局发出警告，关于一场广泛利用人工智能生成语音和文本消息冒充美国高级官员的短信和钓鱼攻击活动。攻击者利用这些消息诱使受害者进入次级平台，最终窃取登录凭据或索取金钱。“根据TransUnion发布的最新报告，合成身份和信用清洗欺诈再次创下历史新高，并且没有减缓的迹象，”信息安全媒体集团周五表示，“由于合成身份欺诈到AI增强的保险欺诈和全球恶意软件清除行动，当今的欺诈形势要求各个行业和系统保持高度警惕。”

这些策略与私营部门中发生的类似计划相呼应，其中Arup和法拉利等公司因AI驱动的欺诈损失数百万美元。曾经属于科幻小说的内容现在已经成为日常运营威胁，它无缝融入通信网络并利用现有监管框架中的每一个漏洞，而这些框架并未设计用于应对深度伪造。

尽管如此，特朗普政府下的联邦政府优先考虑的是去监管而非安全。该政府的AI行动计划由超过10,000条公众意见塑造，强调以美国创新为核心。然而，其背后却是系统性拆除安全保障措施。超过3.28亿美元与虚假信息、生物识别安全和AI风险建模相关的国家科学基金会拨款被取消，包括支持选举安全和深度伪造检测的资金。该政府还将对抗深度伪造内容的努力视为对言论自由的威胁，这一立场混淆了内容审核与意识形态审查。推动这一去监管举措的行政命令指责前一届政府通过支持AI透明度倡议压制言论自由，这一指控并无事实依据。

这种立场的后果已经显现。宾夕法尼亚州的一个案例凸显了问题的严重性。一名警察因持有AI生成的未成年人色情图片而无法被起诉，因为当时没有相关法律规定。只有在一项新的禁令生效后，该州才能在另一起涉及类似罪行的案件中提起诉讼。在爱荷华州，检察官在处理一起高中生传播同学裸照的案件时遇到困难。跨境法律挑战和海外应用开发者缺乏合作使案件处理复杂化，揭示了国际执法能力的不足。

与此同时，法院开始受理挑战旨在规范深度伪造的法律的诉讼，其中一项加州法规被一名联邦法官叫停，他认为该法规过于粗暴。反对者声称这些法律侵犯了讽刺和幽默，尤其是在政治背景中。原告包括保守派内容创作者和平台如Rumble和X，他们认为深度伪造法律限制了表达和创新。

然而，反对监管不能忽视未受约束的合成媒体带来的巨大风险。深度伪造模仿不再限于讽刺或成人内容。它们已被用来诱使参议员与假外国官员会面，模拟WhatsApp欺诈信息中的CEO声音，以及在政治动荡环境中操纵视频片段。专注于语音认证的公司Pindrop在2024年报告称，深度伪造音频攻击增加了683%，并且每天可以看到多达七起针对主要金融机构的合成语音骗局。挑战不仅是确定某人是谁，更是确定他们是否真实。这是美国目前必须解决的存在验证水平。

尽管危机日益加剧，联邦政策仍滞后于行业、执法部门和社会的需求。提交给政府AI行动计划的意见明确指出，合成媒体并非边缘议题，而是对经济和社会信任构成重大威胁。像iProov这样的组织呼吁联邦政府投资于活体验证、实时检测系统和生物识别认证标准。他们的信息是明确的：如果没有一个验证现实的国家基础设施，AI的采用将在不信任的重压下停滞。

然而，特朗普政府并未提供任何全面的路线图来缓解这些风险。相反，它废除了拜登政府时期的人工智能监管行政命令和政策，并专注于消除“创新障碍”，而不是构建安全保护措施。这种仅依赖去监管化和私营部门灵活性的美国人工智能领导力愿景，对深度伪造暴露的结构性漏洞视而不见。没有信任的创新是不可持续的。如果美国人无法相信他们看到、听到或读到的内容，无论这些技术多么高效、智能或经济有益，他们都不会与之互动。

认为人工智能监管必须小心不要扼杀创造力或经济增长的观点是正确的，但解决方案并不是完全停止监管；而是要智慧地构建监管框架。这意味着需要一个联邦监管框架，能够区分高风险和低风险的人工智能应用场景，鼓励行业合作，并包含一个日落条款，允许各州在联邦政府未采取行动时介入。这也意味着恢复联邦对检测与验证研究的资金投入，强制要求在人工智能生成内容中标注出处，并开展公众教育活动提升媒体素养。

美国不能仅仅将深度伪造视为法律上的好奇现象或公民自由辩论的问题。它们是欺诈、操纵和数字破坏的工具。行业专家、政府官员和网络安全组织之间日益达成共识，认为合成媒体必须被监管。这种监管应该是主动的、适度的，并且没有意识形态扭曲。选择并非自由与监管之间的对立，而是混乱与秩序之间的对立。在缺乏联邦替代的情况下对州级行动实施十年冻结，将导致在最需要果断行动之时陷入监管僵局。深度伪造不会因为政策辩论而停止发展。它们会进化、传播并造成不稳定。政府拖延的时间越长，恢复公众信任并遏制有害的合成媒体就越困难。

最终，可信的人工智能战略必须将信任作为首要原则。信任不是治理的奢侈品，它是创新、经济增长和公民参与的基础。如果没有信任，美国的人工智能项目将无法引领世界，它将在幻象中迷失方向。

(以上内容均由Ai生成)