Pinecone推出高性能AI工作负载服务

发布时间:2025年12月4日    来源:szf
Pinecone推出高性能AI工作负载服务

快速阅读: Pinecone推出专用读取节点(DRN),优化突发性工作负载,支持亿级向量搜索和高QPS推荐系统,实现性能和成本可预测性,适用于RAG、搜索及推荐系统。

由于向量工作负载并非一概而论,许多应用程序(如RAG系统、代理、原型和定时任务)具有“突发性工作负载”,即大多数时间维持低流量,但偶尔会突然出现查询量激增的情况。Pinecone的按需向量数据库服务针对这种突发性需求进行了优化,承诺提供简便性和弹性。

公司表示,对于需要持续高吞吐量、大规模运行且对延迟敏感的应用程序(例如亿级向量规模的语义搜索任务、实时推荐流或具有严格SLO的用户界面助手),它们不仅需要关键性能,还需要在大规模下成本可预测且高效。为此,Pinecone推出了专用读取节点(DRN),旨在为这些工作负载提供预留容量,以实现性能和成本的可预测性。

从RAG到推荐

DRN与按需服务相结合,使Pinecone能够支持一系列生产环境中的不同需求,具备企业级性能。无论是RAG、搜索还是推荐系统等,现在都可以选择针对每个索引优化价格性能的服务。

用户可以扩展至最大工作负载,因为该技术专为亿级向量的语义搜索和高QPS推荐系统设计。专用读取节点是什么?

专用读取节点是一种部署选项,查询在隔离的、预配置的读取节点上运行(没有干扰邻居、没有共享队列、没有限制)。数据保持在内存和本地SSD中温暖,避免从对象存储中冷读取,从而在系统扩展时保持低延迟。

从开发者的角度来看,它只是一个普通的Pinecone索引:相同的API、相同的SDK、相同的代码。定价按每小时每节点计算,以实现成本的可预测性和重负荷下的强劲价格性能。

其工作原理

专用读取节点沿两个维度扩展:副本和分片。

副本增加吞吐量和可用性。通过增加副本可以处理更多QPS并提高弹性,几乎线性地扩展QPS。

分片扩展存储容量。随着索引的增长,增加分片以支持更多数据。

无需迁移。Pinecone在后台移动数据并扩展读取容量。

写入行为和限制与按需服务相同。

一位客户在其设计平台中使用DRN来实现实时媒体搜索,该平台支持元数据过滤。在1.35亿向量的情况下,他们在生产环境中实现了600 QPS,P50延迟为45毫秒,P99为96毫秒。同一客户通过扩展DRN节点进行负载测试,达到了2200 QPS,P50延迟为60毫秒,P99为99毫秒。

Pinecone建议团队在需要性能隔离、重载下可预测的低延迟、随数据和QPS增长的线性扩展以及大规模的成本可预测性时选择专用读取节点。

(以上内容均由Ai生成)

你可能还想读

英伟达4B小模型登顶ARC评测,成本仅GPT-5 Pro的136

英伟达4B小模型登顶ARC评测,成本仅GPT-5 Pro的136

快速阅读: 12月8日消息,英伟达推出4B参数小模型NVARC,在ARC-AGI2评测中以27.64%准确率超越GPT-5Pro,单任务推理成本仅0.2美元,凭借零预训练策略和合成数据实现高效低成本部署。 近日,英伟达研发的4B参数小模型N […]

发布时间:2025年12月8日
Meta收购Limitless加码AI可穿戴设备

Meta收购Limitless加码AI可穿戴设备

快速阅读: 据最新消息,Meta收购AI可穿戴设备公司Limitless,后者以无屏幕智能吊坠著称,具备语音交互与实时转录功能;收购后团队并入Meta,专注AI硬件研发,现有产品将停售但提供一年技术支持。 日前,美国科技企业Meta宣布收购 […]

发布时间:2025年12月8日
沐曦股份科创板申购中签率公布

沐曦股份科创板申购中签率公布

快速阅读: 12月8日消息,沐曦集成电路科创板IPO网上申购户数达517.52万户,启动回拨后最终中签率升至0.03348913%,拟募资39.04亿元用于高性能GPU研发及产业化。 12月8日,国产GPU企业沐曦集成电路(上海)股份有限公 […]

发布时间:2025年12月8日
阿里推Qwen3-TTS:49音色10语9方言,WER碾压商用模型

阿里推Qwen3-TTS:49音色10语9方言,WER碾压商用模型

快速阅读: 12月8日消息,阿里巴巴推出通义千问Qwen3-TTS语音合成模型,支持49种音色、10种语言及9种方言,免费开放每月百万字符额度,并在上海120所中小学试点教育应用。 今日,阿里巴巴正式推出通义千问Qwen3系列新成员——Qw […]

发布时间:2025年12月8日
京东云JoyBuilder千卡训练提速3.5倍

京东云JoyBuilder千卡训练提速3.5倍

快速阅读: 12月8日消息,京东云JoyBuilder平台完成关键升级,支持GR00T N1.5千卡训练,兼容LeRobot框架,训练效率提升3.5倍,亿级数据训练从15小时缩短至22分钟。 日前,京东云JoyBuilder模型开发平台完成 […]

发布时间:2025年12月8日
麦肯锡:AI将取代8亿岗位,同时创造新机遇

麦肯锡:AI将取代8亿岗位,同时创造新机遇

快速阅读: 据麦肯锡全球研究院消息,到2030年全球或有8亿岗位被人工智能取代,同时创造1.3亿至2.3亿新岗位,冲击驾驶、物流、医疗、法律等多个行业,专家呼吁加强再培训与政策应对。 日前,人工智能技术快速发展引发全球关注。加州大学伯克利分 […]

发布时间:2025年12月8日
可灵AI上线主体库,角色跨场景“永不变脸”

可灵AI上线主体库,角色跨场景“永不变脸”

快速阅读: 12月8日消息,快手旗下可灵AI发布“主体库”,为O1视频模型新增长期记忆能力,用户上传单图即可跨场景调用一致角色,主体一致性超96%,并推分级服务与2025年多人功能规划。 今日,快手旗下可灵AI正式发布“主体库”(Subje […]

发布时间:2025年12月8日
n1n.ai 重塑大模型API成本与体验

n1n.ai 重塑大模型API成本与体验

快速阅读: 据最新消息,大模型API平台n1n.ai整合近500种开源与闭源模型,价格低至官方十分之一,响应快、稳定性高,已助企业降本超70%并提升用户满意度。 近日,大模型API服务平台n1n.ai凭借高性价比、高稳定性及丰富模型选择,正 […]

发布时间:2025年12月8日