AI观察力大增,监控技术迎新变革
快速阅读: Datadog首席产品官李艳冰表示,AI时代企业需关注模型准确性、数据完整性及实时代理行为,Datadog开发TOTO模型和LLM Experiments平台,以应对复杂自动化环境,预计2025年收入达33亿美元。
随着企业将人工智能更深入地嵌入核心应用,系统可观测性不再依赖传统的指标如在线时间和延迟,而是更多地关注模型准确性、数据完整性和实时代理行为。Datadog首席产品官李艳冰表示,可观测性现在包括识别幻觉、检测提示注入和数据中毒攻击,以及跟踪AI模型如何处理个人数据。
李艳冰指出,在AI时代,企业需要应对新的复杂性,例如如何监控GPU以实现定制化,如何评估模型性能,如何考虑代理性能、代理行为及代理之间的互动。“现在你开始担心AI模型可能泄露的个人信息。如何以定制化的方式监控GPU?如何评估模型性能?如何考虑代理表现、代理行为甚至代理之间的互动?”她说道。
研究机构如Gartner、IDC和Forrester预测,由于企业需要管理复杂的自动化环境,企业可观测性和AIOps市场将以两位数增长。位于纽约的Datadog最近进入S&P 500指数,市值超过500亿美元,正在印度加大投资,并在班加罗尔开设了办事处。
李艳冰表示,印度快速发展的数字经济、AI原生采用曲线和成熟的云生态系统使其成为Datadog最具潜力的市场之一。她指出,来自金融科技和食品配送等数字原生行业的需求尤为强劲,AI正成为这些行业的重要差异化因素。她解释说,虽然SaaS仍将保持相关性,但AI代理将越来越多地增强客户与软件的互动方式。“AI用于可观测性和可观测性用于AI之间存在解耦。”李艳冰说,“大多数组织缺乏对其AI系统行为、代理活动及其是否创造真实业务价值的可见性。这需要高质量的基础模型、强大的评估数据集和实时上下文。”
Datadog开发了TOTO,这是一个拥有1510亿参数的时间序列基础模型,用于可观测性。李艳冰声称,TOTO在基准测试中比类似模型“大幅领先”。该公司还开发了LLM Experiments平台,用于测试和验证提示变化、模型交换或应用程序变化对LLM应用性能的影响。
当被问及在竞争激烈的可观测性市场中如何竞争时,李艳冰表示,Datadog最大的优势在于其研发投入。“我们投入公司收入的30%用于研发。我们的实际研发投入是可比公司中最高的三倍。”Datadog在4月至6月季度的收入为8.27亿美元,预计2025年的收入将达到33亿美元。
(以上内容均由Ai生成)