关于 AI 成本及其管理的见解
快速阅读: 据《快速模式》称,企业今年将在生成式AI上投入6440亿美元,但多数公司难以衡量投资回报。报告指出,AI支出激增,但缺乏有效归因工具,导致成本失控。需加强成本智能与AI创新结合,以提升ROI。
今年,企业将在生成式AI上花费6440亿美元——比2024年增长76%,根据Gartner显示。然而,当被问及这些AI支出是否带来了实际的投资回报率(ROI)时,许多公司却显得无可奈何。根据一份最近的报告,只有半数公司能够自信地衡量他们的AI投资是否真正产生了回报。这不仅仅是一个衡量问题,而是一场归因危机,可能会将人工智能革命变成历史上最昂贵的企业实验。
这份报告调查了美国500名软件工程师。研究结果揭示了AI热情与财务纪律之间的严重脱节。今年,企业将AI预算提高了36%,同时却失去了对成本驱动因素的掌控力。数据揭示了一个鲜明的趋势。平均每月AI支出从62964美元跃升至85521美元。每月在AI工具上花费超过10万美元的公司比例在一年内翻了一番,从20%增加到45%。但对ROI测量的信心却一直保持在大约50%。
**归因黑洞**
所谓“归因黑洞”是指信息进入却无法被追踪的现象。根源并不神秘。大多数AI成本通过云基础设施流动,形成了一个传统跟踪方法难以理清的复杂费用网络。模型训练会不可预测地增加使用量。推理成本随着用户采用情况而增长。存储和计算账单在多个服务之间交织在一起。结果就是:一个超级巨大的AI黑洞,信息进入却无法被追踪。
在这场持续的实验周期中,公司正努力寻找最具竞争力、最持久的AI应用场景,这个黑洞不断增长,威胁着吞噬IT预算、工程岗位以及任何无法迅速逃离其引力的东西。
工程团队对此深有感触。你部署了一个AI功能,使用量突然激增,然后你的云账单变得像一串电话号码。但具体是哪个AI项目引发了这一激增?哪些模型能产生足够的收入来证明它们的计算成本是合理的?没有细致的归因,这些问题就变成了昂贵的盲猜。
**工具差距**
我们的研究揭示了一个残酷的现实:使用专门的成本智能平台的公司,在AI投资回报率测量方面有90%的信心。而那些缺乏系统支持、仅靠电子表格和原生云工具盲目摸索的公司呢?只有41%的人认为他们可以有效地追踪AI回报。
这不是关于购买更多的软件。而是要以同样严谨的态度对待AI成本。你不会在不追踪其性能或可用性指标的情况下推出一款产品。为什么对待AI成本却不同?
**AI可解释性**
当被要求列出未来AI预算的优先事项时,公司最常提到的是“AI可解释性”作为未来投资的首要优先事项。AI可解释性涵盖了一系列解释,包括如何使用第三方AI工具、如何将AI融入软件开发流程、AI工具的运作机制等。
从这个统计数据中我们可以推断出,目前公司并不觉得员工对AI的许多方面了解得很清楚。但他们非常相信AI的未来,因此希望投资于推广这种知识。
当前的可解释性差距很可能也导致了公司对理解AI投资回报率缺乏信心。他们对如何购买、使用和构建AI的理解越模糊,AI用户就越难量化他们实验的成功。
**AI招聘**
AI成本最终涉及到AI经济学的整体问题:不仅仅是AI工具的成本,还有聘请有能力构建和高效利用这些工具的人的成本。AI职位通常薪资很高,而且具备这些技能的人相对较少。大多数这类职位的薪资都超过10万美元,其中26%的薪资在15万到20万美元之间。
公司表示,高薪期望是招聘AI相关职位时最大的挑战,合格候选人短缺是第二大挑战。这反映出企业对高质量AI人才的渴求与市场供应不足之间的矛盾。
**成本智能与AI创新相结合才是关键**
毫无疑问,AI具有变革性的潜力。它已经彻底改变了人们的研究方式、疾病诊断、交流方式,甚至单口喜剧段子的创作方式。在未来几年,我们将只会看到这些应用场景不断扩展、深化并更加精细。
然而,AI带来了显著的支出增长,却缺乏有效的工具将这些支出与投资回报率挂钩。面对快速创新与财务稳健的双重压力,公司面临重大困境。
如果没有有效的成本治理,AI项目面临巨大的成本超支风险。报告表明,公司需要超越仅仅跟踪AI支出,通过成本归因、实时监控和可操作的洞察主动优化支出。
由于基于云的AI工具几乎占用了AI预算的三分之二,组织必须优化其云成本以避免过度支出。完善的成本管理工具和方法将使公司能够有信心地衡量投资回报率,负责任地推进AI,并防止预算浪费。
本文的观点仅代表作者个人,不代表《快模式》。虽然本文中提供的信息来源于《快模式》认为可靠的来源,但《快模式》不对由此产生的任何信息限制、变更、错误、误述、遗漏或错误所造成的任何损失或损害负责。标题仅为参考方便,不应被视为影响所呈现的信息。
(以上内容均由Ai生成)