代理商可以在 AI 成本飙升之前做好准备的三种方式

快速阅读: 《下一个政府》消息，新政府执政下，美联邦政府面临AI应用成本激增的问题。主要原因包括大规模数据集需求、模型参数增加及专业人才稀缺等。为控制成本，机构需进行设计审批、对比开源与闭源模型、持续监控等措施。AI虽带来机遇，但需战略规划避免成本失控。

随着新政府在华盛顿执政，一个备受关注的关键议题是如何利用人工智能的力量来推进政府任务。围绕人工智能合理使用的讨论，以及它将如何影响政府劳动力和如何以道德方式使用它，已引发诸多争议。但可能是所有因素中最关键的人工智能应用推动因素是实施这些解决方案的成本。多年来，联邦政府一直在使用人工智能，但由于多种原因，实施人工智能解决方案的成本大幅上涨。

首先，与生成式人工智能模型相关的数据集规模庞大，这意味着机构需要在计算资源和数据预处理上投入大量资金，以便微调和运行大型模型，从而从中获取所需的响应。以往，大部分政府的人工智能应用主要侧重于判别式人工智能，例如风险预测、异常检测及自然语言处理。尤其是生成式人工智能和大语言模型，尽管它们经过了预训练，往往需要大量的机构专属数据集来调整以满足其需求。这些深度神经网络模型的数据规模扩大以及模型规模大幅增加（经常达到数十亿个参数），与几年前的人工智能模型相比，计算成本显著提升。这反过来会对基础设施成本的其他部分产生影响，如数据存储、预处理、治理及管理，如果没有提前做好规划的话。

此外，每个应用场景和机构技术栈的独特性使得情况更加复杂。例如，在大量遗留数据库中加入基于生成式人工智能的搜索功能的成本动态与在高交易量数据上进行文档审查和摘要的成本动态截然不同。此外，机构还需考量招聘具备相关技能人员的成本。精通深度学习和生成式人工智能的专业人才十分稀缺且价值高昂，一些私营企业的人工智能实验室的软件开发人员或人工智能工程师年薪可能高达百万美元。

那么，机构如何更有效地管理和控制这些不断攀升的成本？

首先，机构应增设一个有意识的环节，进行设计审批请求——一份详细分析不同架构优缺点并比较每种情景实际生产成本的分析报告。机构应在开发解决方案并部署到云端之前就开展这项工作。值得注意的是，许多云服务商提供工具，帮助机构构建架构并模拟成本。通过依据数据量、数据类型以及模型选择对比替代方案架构的成本，机构可据此合理估算实际场景中的成本。

其次，机构应对比开源模型与闭源模型的成本。开源模型有时可在机构自有环境或自托管环境中运行，这可能降低成本。然而，这涉及更高的前期计算采购成本以及专业的部署技能。许多闭源人工智能平台虽然前期成本明显较低，但其按使用付费或月订阅的定价模式可能导致长期运营成本更高。应运用结构化的总拥有成本（TCO）模型有效评估这些权衡，因为这对政府机构的首席信息官和首席财务官而言是全面的财务分析。通过将TCO纳入人工智能成本评估，机构可更准确地预测长期财务影响并优化投资决策。

第三个关键环节是持续监控。机构的数据规模和速度可能会变化，这通常也需重新训练模型。因此，应构建稳健的组织体系和流程，其中领导者负责管理云计算成本并确保其控制在预算之内。鉴于新政府注重效率，机构应从系统设计之初就重视这一点。

人工智能为政府机构改进运作方式、达成使命目标并以更高效率向公众提供服务提供了绝佳机会。但在急于利用这些优势的过程中，机构绝不可忽视充分的战略规划需求，以防失控的人工智能成本成为现实。

拉马克里斯南·克里希纳穆尔蒂是REI的数据分析主管，阿南德·特里维迪是REI的人工智能主管。

(以上内容均由Ai生成)