新加坡公司关注 DeepSeek 的好处，但对数据安全风险和 AI 偏见持谨慎态度
快速阅读: 《海峡时报》消息，新加坡的公司对中国的生成式AI模型深寻持谨慎态度，尽管它能降低40%-60%的成本。深寻宣称其R1模型训练成本低廉，能力与ChatGPT相当。然而，由于潜在的数据安全和审查问题，多家企业仍持观望态度，呼吁进行全面风险评估。深寻需经历多轮测试，以确保其答案一致性和避免滥用及偏见。
新加坡——尽管中国的生成式AI模型深寻（DeepSeek）有着降低成本的承诺，但新加坡的公司们呼吁对此持谨慎态度。银行、咨询机构和网络安全公司等主要企业已明确制定使用生成式AI模型的规定，基本上禁止员工使用包括深寻在内的此类工具，理由是需要进行尽职调查。
今年一月，深寻声称训练其最新的R1模型的成本仅需560万美元（约合760万新元），这与美国科技巨头为训练每个大型语言模型（LLM）投入的数亿美元相比，成本只是其中的一小部分。深寻表示，R1的能力可与OpenAI的ChatGPT相匹敌。发布后，R1登上了下载排行榜，并导致美国科技股下跌，反映出市场对主导市场的生成式AI玩家如OpenAI、谷歌和亚马逊网络服务的信任度下降。现在，所有目光都集中在中国的模型上。
据新加坡AI消费者洞察平台Ai Palette估计，使用深寻可以帮公司节省40%到60%的基础设施成本，尤其是在使用高端计算芯片来运行大规模LLM方面。波士顿咨询集团（BCG）表示，客户对使用深寻AI在项目中的潜在应用兴趣激增。“该模型因其开源特性、在基准测试中表现优异且提供了显著更低廉的成本替代方案而脱颖而出。”BCG的AI团队管理合伙人施耐曼（Hanno Stegmann）说。IBM新加坡总经理陈惠珊（Tan Siew San）女士也表达了类似的看法。IBM最近于2024年12月发布的研究显示，超过200名IT决策者中有近一半希望在2025年更多地使用开源AI技术，比如更快的软件开发和快速创新等。具体来说，开源方法通过第三方开发者而非仅限内部人员来改进代码。
然而，在部署该模型之前，值得等待对其潜在风险进行全面评估。两年前，当美国公司OpenAI、谷歌和亚马逊网络服务首次推出其生成式AI模型时，也曾发出类似的评估呼吁。主要关注点在于保留用于训练AI模型的数据以及企业数据泄露的风险。
在中国，随着深寻在国内掀起热潮，国内AI竞争日益激烈。初步测试表明，深寻未能达到某些负责任AI的标准，对于涉及中国政府审查的问题，深寻倾向于回避，而对于其他国家的类似问题，则会公开回答。此外，关于深寻应用程序版本的担忧也存在，因为它保留提示和结果以训练AI模型。专家们不确定数据保存和审查的程度。施耐曼先生表示，不清楚深寻的开发者是否在安全措施上进行了大量投资，以及数据究竟如何存储。“我们强烈建议客户在使用深寻前评估任何潜在风险，尤其是数据安全性和保密性方面的风险。”施耐曼先生说。
深寻需要经过多次测试，以检查其答案的一致性，并评估系统可能被滥用的方式及其偏见，如性别或特定人口统计方面的偏见。“可以说，许多LLM的初次发布初期都会遇到一些问题，这些问题需要根据用户反馈和模型调整来解决。”注意到韩国和欧洲已经要求深寻提供信息，他说：“值得等待看看关于深寻训练数据的更多信息是否会浮现。”韩国、意大利和澳大利亚等国已禁止政府设备访问深寻，理由是安全考虑。这些限制类似于2022年初ChatGPT首次面世时的情况。目前，ChatGPT在中国仍然被封禁。
同样，法律公司如RPC也选择谨慎行事。RPC科技律师廖力（Nicholas Lauw）表示，通常禁止使用新的生成式AI工具处理客户数据，直到技术的安全性得到充分测试。他补充说，同样的建议也适用于公司的客户。“我们的立场是预防性的，旨在维护与客户的信任和诚信，并遵循更广泛的监管指导和最佳实践。”廖力先生说。
深寻对北京和硅谷都构成了挑战。数据中心的投资热潮似乎没有减缓的迹象。该公司正在测试LLM，以查看哪些可以安全有效地用于内部用途。AI模型将接受法律风险评估，并检查答案的质量，包括准确性、遵守公司伦理和敏感数据暴露风险。许多主要组织已经与微软或OpenAI等AI聊天机器人开发商达成协议，以构建内部使用的定制工具，确保公司数据不会被共享。例如，华侨银行和大华银行在其内部服务器上托管定制的AI聊天机器人，用于编码和档案搜索等用途。据了解，华侨银行员工的笔记本电脑不允许使用任何未满足其安全要求的外部聊天机器人，包括深寻。华侨银行集团数据办公室负责人唐纳德·麦克唐纳（Donald MacDonald）先生表示：“我们的生成式AI应用是基于本地开源LLM构建的，以最小化数据泄漏风险。我们在决定部署前会评估所有新的LLM。”
Rajah和Tann律师事务所负责科技法事务的拉杰什·斯里尼瓦桑（Rajesh Sreenivasan）先生表示，该律所已投入大量资金部署微软Copilot和法律助理Harvey AI的企业版本，以确保任何使用数据都保留在其系统内。企业交易还包括赔偿条款，保护公司用户免受版权侵权和其他法律问题的指控。此类条款保护科技客户免受AI创作引发的法律风险，责任则由科技供应商承担。大多数主要的生成式AI供应商，包括微软、IBM、Adobe、谷歌和OpenAI，都为客户提供赔偿服务。“目前深寻还没有企业级产品，”拉杰什先生说。“尽管它是开源的，但这并不足以保护公司用户免受潜在的法律风险。”
尽管存在这些担忧，一些公司已经开始试用这一新工具。视频软件公司Babbobox首席执行官陈建威（Alex Chan）表示，他的员工被允许使用任何AI模型，包括深寻，用于寻找灵感或提高生产力的代码。Wiz.AI首席技术官朱立（Tony Zhu）先生表示，新加坡的Wiz.AI公司看到了使用R1进行基于文本的客户服务互动的潜力。自2024年12月以来，Wiz.AI一直在使用深寻的技术，认识到该工具能够处理涉及复杂推理的任务。该公司还使用其他开源模型，如Meta的Llama。深寻的突破性进展有助于新加坡更多预算有限的小型企业采用AI。具体而言，深寻的技术可以被当地科技公司模仿，使更多公司能够实验和创新生成式AI，即使没有大量的计算资源。
(以上内容均由Ai生成)
