DeepSeek：为社会治理而优化的工具 – 分析
快速阅读: 据《欧亚评论》称，研究显示，中国的最新大语言模型DeepSeek被用作社会管理工具，其答案受中共舆论引导策略影响。尽管DeepSeek在境外可能有需求，但其亲中偏见使其难以被广泛接受。
在中华人民共和国（PRC）全国人民代表大会年度会议召开前夕，一家顶级国有媒体平台的记者走上街头，邀请受访者向DeepSeek R1提问，后者是该国最新推出的大语言模型（LLM）（《中国快讯》，2023年2月11日；2023年3月19日）。一位年轻女性问道：“我即将毕业，AI能帮我找到什么样的工作机会？”——这是一个及时的问题，因为立法者正在将人工智能（AI）吹捧为未来发展的解决方案（《人民日报》网络版，2023年3月2日）。
DeepSeek回应称，由于AI的应用，提供了“广阔的职业发展空间”，并列举了多个角色，如数据标注员，并指出这些职位获得的高薪。当本文作者向DeepSeek提出相同问题时，它也给出了相同的保证，并建议应届毕业生结合自身已有技能和AI来“抓住AI时代的就业机会”。然而，这种回答却未提及AI在青年失业率高企的就业市场中引发的社会动荡。例如，在过去三年里，机器填补了中国60%的数据标注工作，使数据标注员的工作趋于过时（中央电视台，2023年1月13日）。《人民日报》网络版的文章避而不谈这些问题，反而把DeepSeek称为“幸福密码”，即一种展示党国如何应对当前国家关切的技术，并向人们保证他们处于安全的手中。换句话说，这项新技术正被用来服务于一个更为古老的政治体系：通过宣传使公众与国家政策保持一致的“舆论引导”系统。
记者注意到，DeepSeek会根据中国政府认为敏感的词汇来过滤答案内容。但过滤只是宣传的一个方面。对于《中国媒体项目》，作者对DeepSeek模型进行了相关测试，发现其回答中部署了多种常见的舆论引导策略。即便去除了过滤DeepSeek答案中敏感内容的代码，对中共事实解读的偏见仍然存在（《中国媒体项目》，2023年2月10日）。西方程序员试图完全消除这些偏见的努力证明是困难的，很可能是因为公司不愿意承担重新训练像DeepSeek这样大型模型的高昂成本（《中国媒体项目》，2023年3月4日）。通过利用人工智能训练的基础，中国政府能够保持对DeepSeek模型的这种程度的控制，从而影响一个中国模型如何看待世界。
一个关键领域是模型的训练数据——数以百亿计的文本、图像或视频，大致相当于它的“想象力”。《生成式人工智能服务管理暂行办法》由国家互联网信息办公室发布，规定这些数据必须来自“合法来源”，开发者需要采取措施“提高训练数据的真实、准确、客观及多样程度”（国家互联网信息办公室，2023年7月13日）。在中国法律框架下，政治意义上的准确与否由党的路线决定。例如，多个重新训练版本的DeepSeek模型重复了中国官方媒体的常见错误表述，即“台湾自古以来就是中国不可分割的一部分”（《中国媒体项目》，2023年3月4日）。DeepSeek没有提供太多关于其训练数据的细节，但提到早期版本的模型删除了“受区域文化影响的数据，以避免我们的模型在这些有争议的话题上表现出不必要的主观偏见”（Arxiv/DeepSeek，2024年6月19日）。鉴于互联网上的大多数开源自然语言材料都是西方的（这对中共来说是一个有问题的偏见），DeepSeek很可能是为了规避触及政治红线的内容而移除了包含特定政治观点的数据。
DeepSeek遵守中共政治正确的表现可以在基准测试中看到。这些是在由中国开发者社区设计的问题下进行的测试，用于评估LLMs在训练期间的表现。DeepSeek在多个基准测试中的结果显示出一种共识，即其答案的“准确性”必须符合党的价值观，才能在中共国境内正确运行。在DeepSeek使用的某个基准测试问题如下（《中国媒体项目》，2023年2月18日）：
这表明，中共的舆论引导理念正被融入DeepSeek及其他模型之中。
**结论**
DeepSeek与党的红线对齐，使其成为社会管理的理想工具。大型语言模型有望取代传统搜索引擎，综合大量数据以针对任何用户查询提供精确的答案。最终，类似DeepSeek的AI工具可能逐步取代微信或百度的搜索功能，就像ChatGPT等工具在西方越来越多地与Google竞争信息搜索一样。理论上，DeepSeek在境外也可能有很高的需求。许多发展中国家迫切希望开发自己的AI程序，但由于西方LLMs的高昂成本或版权要求而受到限制。去除亲中共偏见需要对DeepSeek进行广泛的重新训练，迄今为止，各国政府和技术公司都尚未愿意承担相应成本。因此，任何海外采用DeepSeek模型都有可能将中国的国内社会治理体系传播到国外。
当国内政策制定者探索如何最好地利用该国首个尖端推理模型时，他们面临着平衡两项中央政策：增强AI用于社会治理的能力，并确保AI不会取代人类控制。目前，地方官员在实现这一平衡的方式上存在很大差异，尽管前者比后者更受到媒体、公众和中央领导人的关注。
**作者简介**
Alex Colville是中国媒体项目的研究员和数据库协调员。他为《经济学人》、《金融时报》和《界面新闻》撰写有关中国事务的文章。他在哥伦比亚大学的数据新闻Lede计划获得奖学金，拥有编程背景。Alex于2019年至2022年在北京工作，在《中国世界》担任特约撰稿人期间获得了两个SOPA奖项。
**来源**
本文由詹姆斯敦基金会发布。
(以上内容均由Ai生成)
