Oracle 与 NVIDIA 合作加速企业 AI 推理
快速阅读: 《快速模式》消息，甲骨文与英伟达合作，将英伟达AI技术与甲骨文云基础设施集成，加速企业构建自主AI应用。双方合作涵盖AI工具、微服务及数据库优化，助力快速AI部署与创新。
甲骨文与英伟达宣布了一项开创性的集成，将英伟达的加速计算与推理软件与甲骨文的人工智能基础设施及生成式人工智能服务相融合，以帮助全球组织加速构建自主人工智能应用。甲骨文云基础设施（OCI）与英伟达AI企业软件平台的新集成将使超过160种AI工具和100多种英伟达NIM™微服务通过OCI控制台原生可用。
此外，甲骨文和英伟达正在合作，无代码部署Oracle和NVIDIA AI蓝图，并利用英伟达cuVS库加速Oracle数据库23ai中的AI向量搜索。英伟达AI企业软件将通过OCI控制台原生可用，使客户能够快速轻松地访问包括英伟达NIM在内的AI工具。NIM是一套100多种优化的、云原生的推理微服务，适用于领先的AI模型，包括最新的英伟达Llama Nemotron模型，用于高级AI推理。英伟达AI企业软件将作为部署镜像提供给OCI裸机实例和使用OCI Kubernetes引擎的Kubernetes集群。OCI控制台用户可通过Oracle进行计费和客户服务。
组织可以在本地、公共云或边缘部署OCI的150多种AI和云服务，结合英伟达加速计算和英伟达AI企业软件。该产品提供了一个集成的AI堆栈，以帮助解决数据隐私、主权AI和低延迟需求。OCI AI蓝图提供了无代码部署指南，使客户能够快速运行AI工作负载，而无需决定软件堆栈或手动配置基础设施。这些蓝图为NVIDIA GPU、NIM微服务以及预打包的可观测性工具提供了明确的硬件建议，帮助企业将其AI项目从几周加速到几分钟。
为了进一步加速企业AI采用并帮助实现快速AI部署，数据科学家可以直接在OCI数据科学中使用预优化的NVIDIA NIM微服务。这支持实时AI推理用例，而无需管理基础设施的复杂性。甲骨文和英伟达正在合作，利用英伟达GPU和英伟达cuVS加速Oracle数据库23ai中AI向量搜索的计算密集型部分——向量嵌入和向量索引的创建。
OCI将在OCI超级集群上提供英伟达GB200 NVL72系统——很快全面上市，最多可达131,072个英伟达GPU，并已开始接受订单，订购其中最大的云AI超级计算机之一，配备英伟达Blackwell Ultra GPU。OCI将是首批提供下一代英伟达Blackwell加速计算平台的云服务提供商之一。基于Blackwell架构，Blackwell Ultra包括英伟达GB300 NVL72机架规模解决方案和英伟达HGX™ B300 NVL16系统。
甲骨文首席执行官萨夫拉·卡茨表示：“甲骨文已成为AI训练和推理的首选平台，这一合作伙伴关系增强了我们帮助客户实现更多创新和业务成果的能力。”英伟达的产品与OCI的灵活性、可扩展性、性能和安全性相结合，将加速AI采用，并帮助客户从其数据中获得更多价值。
英伟达创始人兼首席执行官黄仁勋表示：“甲骨文和英伟达是推理时代的理想合作伙伴，与处理世界上大部分企业数据的关键参与者合作。我们共同帮助企业利用自主AI进行创新，为客户提供令人惊叹的服务。”
Soley Therapeutics联合创始人兼首席执行官叶雷姆·叶格希亚良斯表示：“我们相信AI在开发新解决方案方面的潜力，这些方案可以帮助提供癌症和其他复杂疾病的治疗方法。OCI和英伟达的结合提供了一个全栈AI解决方案，为我们提供了存储、计算、软件工具和支持，以便更快地利用PB级数据开发我们的AI药物发现平台。”
Pipefy首席软件工程师加布里埃尔·库斯蒂奥表示：“我们采用了OCI AI蓝图来快速启动NVIDIA GPU节点并部署多模态大型语言模型，用于文档和图像处理用例。使用这些预先打包和验证的蓝图，现在在OCI上部署我们的AI模型已经完全自动化且显著加快。”
DeweyVision首席执行官马吉德·贝曼尼亚表示：“Oracle数据库23ai结合AI向量搜索功能显著提升Dewey的搜索性能，同时增加DeweyVision平台的可扩展性。使用NVIDIA GPU创建加载到Oracle数据库中的向量嵌入，加速了我们平台对新数据的摄入，而自治数据库和Oracle数据库23ai的融合能力将帮助我们在增长过程中减少运营成本并开拓新的机会。我们认为，DeweyVision、Oracle数据库23ai以及在OCI中运行的NVIDIA GPU的结合将助力我们达成成为好莱坞数据仓库的目标。”
SoundHound AI首席产品官詹姆斯·洪表示：“SoundHound与OCI建立了长期合作关系，我们相信我们的持续合作将在支持未来增长方面发挥关键作用。NVIDIA GPU将大幅加速我们下一代语音AI的训练。”
(以上内容均由Ai生成)
