AI加剧信息战威胁，美国亟需重振防御机制

快速阅读: 6月，欧洲外交部长收到自称美国国务卿马可·鲁比奥的紧急请求短信及语音留言，实为AI伪造。此事件暴露了AI在信息战中的滥用风险，可能导致外交危机。

6月，一位欧洲外交部长的安全Signal账户收到了一条短信。发件人声称是美国国务卿马可·鲁比奥，并提出了一项紧急请求。不久之后，另外两位外交部长、一位美国州长和一位国会议员也收到了同样的消息，这次还附带了一段模仿鲁比奥的复杂语音留言。尽管这些通信看起来很真实，语气也符合高级官员的预期，但实际上是一场恶意伪造——一个由未知人士利用人工智能技术制造的深度伪造。若不是谎言被识破，这场恶作剧有可能引发分歧，损害美国外交，或从华盛顿的外国伙伴那里获取敏感情报。

这并不是最后一个令人不安的例子，人工智能正在帮助恶意行为者进行信息战——通过操纵和传播信息以获得优势。8月，范德堡大学的研究人员透露，中国科技公司银河科技（GoLaxy）使用人工智能构建了至少117名在职美国议员和超过2000名美国公众人物的数据档案。这些数据可以用来创建逼真的AI生成人物，模仿这些人物并制定针对其追随者的心理特征的消息宣传活动。银河科技在平行的香港和台湾活动中展示了其目标，即同时向数百万个人发送数百万个不同的定制谎言的能力。

虚假信息并非新问题，但人工智能的引入使得恶意行为者能够更容易地开发出越来越有效的影响力行动，并且成本低廉、规模庞大。对此，美国政府应当扩大和完善识别和关闭这些活动的工具。然而，特朗普政府却在解除武装，缩减美国对外国虚假信息的防御能力，使国家在应对人工智能驱动的攻击方面准备不足。除非美国政府重新投资于对抗信息战所需的机构和专业知识，否则数字影响力活动将逐渐侵蚀公众对民主制度、程序和领导的信任，威胁到美国民主的根基。

信息时代

在现代大部分时间里，许多民主的支持者认为信息流通纯粹是一种积极力量。2009年，美国总统贝拉克·奥巴马在上海对中国学生发表演讲时曾表示，“信息流动得越自由，社会就越强大，因为这样各国公民就能让自己的政府负起责任。”社交媒体加速了信息的传播，使公民更容易监测、讨论和提高对政府活动的认识。但这也削弱了公众对机构的信任，创造了通过推广个性化内容和专注于参与度的算法形成的在线回音室，限制了不同观点的接触，加深了用户的两极分化。

直到最近几年，世界才终于认识到来自数字信息领域威胁的紧迫性。法国总统埃马纽埃尔·马克龙在10月的一次演讲中指出了技术和民主倒退之间的联系。他认为，欧洲“极其天真”，将“民主空间交给了要么由大型美国企业家要么由中国大公司控制的社会网络。”政治学家弗朗西斯·福山最近称这种在线公共空间为“奖励耸人听闻和破坏性内容的生态系统”，并受制于“利润最大化”利益的公司的“不受约束的权力”，导致特定声音的单方面放大或压制，这违背了民主的核心原则。

人工智能的进步日益加剧了对民主的威胁。过去五年间，对抗外国恶意影响如同在海军战争游戏中追踪战舰。美国的对手如中国和俄罗斯，部署了大型国家控制的媒体机构，例如中国的CGTN和俄罗斯的RT；拙劣的假社交媒体账户；以及成群的机器人，以推动全球范围内的破坏性叙事。这些手段虽然危险，但也显得笨拙且容易识别。如今，那个时代似乎已显得过时。尽管旧有的虚假信息战舰仍在活动，但人工智能的兴起使得更多参与者能够加入这场竞争。信息战现在更像是由自主无人机进行的战斗——高度个性化、不断适应、成本低廉到任何行动者都能用来对付其对手。外国宣传和虚假信息活动现在被设计为寻找特定的漏洞——个人的政治倾向、社会价值观甚至在线购物习惯——并发起针对性攻击，旨在最大化对其受众态度和行为的影响。

历史上，宣传活动受到内容创作、翻译和目标选择所需人力的限制。人工智能消除了这些人力需求，从而使得信息战能够在速度和复杂程度上达到许多国家难以应对的水平。面对无法阻挡的分裂政治信息冲击，社会凝聚力可能瓦解，政府决策过程可能陷入瘫痪。数字信息环境已成为冲突的战场，在这里，国内外政策目标可能被对手破坏，而攻击者无需离开自己的领土。

**无国界的机器人**

人工智能用于情报收集、虚假信息活动和恶意影响操作的现象正在全球范围内蔓延。例如，在萨尔瓦多，总统纳伊布·布克尔将其先进的国家宣传机器与人工智能工具结合，包括机器人网络。除了通过展示该国的技术现代化来吸引外国投资外，使用人工智能机器人还旨在通过掩盖或改写涉及人权侵犯的叙述，来保护政府免受国际批评。

人工智能也被用来制造不稳定。例如，负责ChatGPT的人工智能公司OpenAI最近宣布，已删除了多个与中国有关的ChatGPT账户。这项秘密影响行动被称为“垃圾邮件叔叔”，利用人工智能创建虚假的在线身份和具有争议性的社交媒体帖子，故意与其他社交媒体用户就关税等敏感的美国政治问题展开辩论，目的是加深美国国内的政治分歧。然而，“垃圾邮件叔叔”对美国国家安全最具腐蚀性的部分是其情报收集活动，这涉及到使用人工智能工具从X（前身为Twitter）和Bluesky等平台抓取和分析大量个人信息，包括美国公民的用户资料和关注者列表。这些信息可用于改进其目标方法，可能使北京在未来的信息战中获得优势。

在线虚假信息也可能产生线下后果。例如，在印度，越来越多的人工智能生成的图像和视频传播了仇恨的反穆斯林言论，加剧了现有的宗教紧张局势，并引发了对少数群体的心理恐怖和身体暴力威胁。据BBC报道，在苏丹，内战正在进行中，TikTok上使用了人工智能声音克隆技术来冒充2019年被军事政变推翻后长期未公开露面的前苏丹领导人奥马尔·巴希尔。这种人工智能的使用可能会削弱公众对官方信息来源的信任，并加速在已经残酷的冲突中社会秩序的崩溃。

或许最能体现人工智能破坏力的例子发生在罗马尼亚，2024年总统选举因外国干涉而蒙上阴影。据罗马尼亚情报部门确认，这场大规模的虚假信息活动与俄罗斯有关，人为地增强了极右翼、亲俄边缘候选人卡林·乔治斯库的网络影响力。该行动包括使用深度伪造技术、数万个由人工智能驱动的机器人账号评论，以及据官方称向TikTok等社交媒体平台上的数百位网红支付报酬。虚假信息活动的效果足以使选举本身的合法性受到质疑，乔治斯库在第一轮投票中获胜。罗马尼亚宪法法院决定废除选举结果，重新投票。整个事件表明，在某些情况下，人工智能驱动的虚假信息不仅威胁而且可能使民主的基本程序失效。

尽管威胁日益严重，美国比以往任何时候都更加容易受到信息战的影响。2016年，在奥巴马政府末期，美国政府开始加强识别和对抗外国宣传和虚假信息的能力，特别是在国务院内部设立了全球参与中心（GEC）。GEC与其他专注于信息战的政府办公室一起，利用地缘政治分析师团队和社会媒体监控工具来揭露外国影响力活动。国务院和情报界还开始更密切地研究对手的战术，并增加与外国伙伴的信息共享。然而，美国政府仍然难以跟上虚假信息战术的进步。

拜登政府取得了一些进展。2023年，通过GEC，国务院发起了一项计划，旨在揭露并破坏俄罗斯在非洲和拉丁美洲的信息战活动。该计划采用了全方位政府防御措施：与情报机构合作，清除情报中的敏感来源和方法，使其适合公开使用；与国防部合作评估信息战对美国安全的影响；与财政部合作实施制裁；并与白宫协调政策时机。2024年2月，GEC领导的一项努力导致揭露并瓦解了位于肯尼亚的秘密由俄罗斯资助的在线媒体平台“African Stream”，该平台传播反美信息，包括削弱对美国健康项目信心的故事。最重要的是，2024年9月，国务卿安东尼·布林肯宣布，美国将对俄罗斯国家控制的电视网络RT的母公司“今日俄罗斯”实施制裁。这些制裁是在国务院公开关键情报后作出的，这些情报显示RT已成为俄罗斯秘密信息行动的集散地。

然而，特朗普政府削减或严重削弱了负责识别和对抗外国恶意影响和虚假信息活动的政府办公室。受影响的办公室包括GEC、国家情报总监的外国恶意影响中心、联邦调查局的外国影响特别工作组，以及国土安全部下属的网络安全和基础设施安全局的部分部门。取消这些机构意味着美国政府不再能够充分识别、追踪、评估和防范信息空间中的对手。

特朗普政府解散这些关键机构的行为构成了一种不负责任的单方面裁军行为。毕竟，不良行为者不会消失。10月初，African Stream的创始人艾哈迈德·卡巴洛宣布成立“主权媒体”，自称为“反帝国主义联盟”，承诺对抗“西方统治精英”实施的“无情审查和算法压制”。虽然“主权媒体”的资金来源尚不清楚，但卡巴洛长期以来一直是俄罗斯援助的受益者。没有以前作为虚假信息监督者的美国机构，很难知道特朗普政府是否有人认真关注“主权媒体”或与敌对政府有联系的许多其他外国媒体机构。这些行为者累计可能会对美国利益造成实际损害，因为他们用关于美国的虚假叙述充斥互联网，尤其是在人工智能使得公民，无论是美国人还是外国人，越来越难以区分虚假叙述和真实信息的情况下。

一场完美的风暴正在酝酿。美国的对手正在大力投资于虚假信息活动，人工智能的进步正带来一种更加危险的冲突形式，而特朗普政府的第二任期削弱了旨在保护美国及其伙伴免受外国恶意影响的防御措施。

没有简单的解决方案，但任何严肃的美国反虚假信息防御都必须包括技术创新和机构重组。这应该涉及美国的亲密盟友，并采取全面的政府方法，包括建立GEC的后续组织和其他负责打击虚假信息的办公室。为了支持这一努力，特朗普政府应发布一项国家安全指令，明确宣布人工智能放大下的外国恶意影响是美国面临的明确且现实的威胁。该指令应动员情报界制定新的综合评估，评估美国对手的虚假信息能力，这将有助于未来的情报收集和目标确定集中在最紧迫的威胁上。它还应建立由国家安全委员会领导的永久性跨机构结构，以确保政府不同部门的工具，如美国网络司令部的进攻单位和财政部的制裁机制，在对抗外国恶意影响的斗争中得到协调使用。

抵御信息战还需要公共和私营部门之间的合作，由白宫科技政策办公室组织。与社交媒体平台、领先的人工智能研究实验室和网络安全公司建立正式的合作渠道，将使美国政府能够共享关于特定威胁的情报，共同开发先进的技术来检测人工智能生成的内容，并建立行业范围的最佳实践，以对抗人工智能对虚假信息的放大作用。通过白宫的参与，信息战的斗争，目前是一个小众政策问题，将成为美国国家安全的核心组织原则。

采取这些措施不是为了限制言论自由，而是为了保护美国公民参与不受外国虚假信息污染的对话的权利。随着2026年美国中期选举的临近，现在是行动的时候了。如果特朗普政府未能加强美国的防御，其对手部署的微妙而持久的影响活动可能会破坏美国人珍视的民主生活方式。

(以上内容均由Ai生成)