Red Hat 利用 Red Hat AI 在混合云中提升企业 AI
快速阅读: 据《美国商业资讯(新闻稿)》最新报道,红帽发布新版人工智能产品,包括OpenShift AI 2.18和RHEL AI 1.4,支持混合云环境中的AI模型开发与部署,提升效率并简化操作。产品新增功能如分布式服务、模型调优体验及AI护栏等,帮助企业降低成本并保障数据安全。
**罗利,北卡罗来纳州——(商业资讯)——全球领先的开源解决方案提供商红帽公司今日宣布,其红帽人工智能(AI)产品和服务组合迎来了最新更新,旨在助力加速混合云环境中人工智能解决方案的开发与部署。**
红帽人工智能为企业量身打造了一个AI平台,用于模型训练和推理,提升了效率,简化了操作,并能在混合云的各种加速计算架构上实现灵活部署。尽管企业在寻求降低大规模部署大型语言模型(LLMs)的成本以应对日益增长的应用场景,但仍然面临将这些模型与驱动这些应用场景的专有企业数据集成的挑战,同时还需要能够访问位于本地数据中心、公共云或边缘位置的数据。红帽人工智能涵盖红帽OpenShift AI和红帽企业Linux AI(RHEL AI)两大核心组件,通过提供为企业量身打造的AI平台解决了这些问题,该平台能够让用户使用更高效且经过优化的模型,在特定业务数据上进行调优后,可在混合云中用于训练和推理各种加速计算架构。
**红帽OpenShift AI**
红帽OpenShift AI为在混合云中管理预测性和生成式AI(Gen AI)生命周期提供了完整的AI平台,涵盖了机器学习操作(MLOps)和LLMOps功能。该平台提供了构建预测模型和调整生成式AI模型的功能,以及从数据科学到模型管道、模型监控直至治理等全方位工具,从而简化AI模型管理。红帽OpenShift AI 2.18是该平台的最新版本,新增了多项更新和功能,以支持红帽人工智能将更优化和高效的AI模型引入混合云的目标。主要功能包括:
– **分布式服务**:通过vLLM推理服务器提供,分布式服务使IT团队能够在多个图形处理单元(GPUs)之间分割模型服务。这减轻了单一服务器的负担,加快了训练和微调速度,并更有效地利用了计算资源,同时帮助在AI模型的节点间分布服务。
– **端到端模型调优体验**:利用InstructLab和红帽OpenShift AI数据科学管道,此新功能简化了大语言模型(LLMs)的微调过程,使其在大规模生产环境中更具可扩展性、效率和可审计性,同时通过红帽OpenShift AI仪表盘提供可管理性。
– **AI护栏**:红帽OpenShift AI 2.18通过AI护栏技术预览版提高了LLM的准确性、性能、延迟和透明度,以监测并更好地保护用户输入交互和模型输出。AI护栏在协助IT团队识别并缓解可能存在仇恨言论、滥用行为或亵渎内容的情况方面提供了额外的检测点。
– **模型评估**:利用语言模型评估(lm-eval)组件提供有关模型整体质量的重要信息,模型评估使数据科学家能够跨多种任务基准测试其LLMs的性能,从逻辑和数学推理到对抗性自然语言等,最终帮助创建更有效、响应迅速且针对性更强的AI模型。
**RHEL AI**
作为红帽人工智能产品组合的一部分,RHEL AI是一个基础模型平台,用于更一致地开发、测试和运行LLMs以支持企业应用。RHEL AI为客户提供了Granite LLMs和InstructLab模型对齐工具,这些工具打包为可引导的红帽企业Linux服务器镜像,并可在混合云中部署。RHEL 1.4于2025年2月正式推出,新增了若干增强功能,包括:
– **新增Granite 3.1 8B模型支持**:这是开源授权的Granite模型家族的最新成员。该模型增加了多语言支持,用于推理和分类/知识定制(开发者预览),并带有128k上下文窗口,以改善总结结果和检索增强生成(RAG)任务。
– **全新技能与知识贡献图形用户界面**:作为开发者预览版提供,简化了数据摄取和分块,以及用户如何将自己的技能和贡献添加到AI模型中。
– **文档知识基准(DK-bench)**:便于比较在相关私有数据上微调的AI模型与相同未调基线模型的性能。
**红帽AI InstructLab on IBM Cloud**
越来越多的企业正在寻找优先考虑准确性和数据安全性,同时尽量降低费用和复杂性的AI解决方案。红帽AI InstructLab部署在IBM Cloud上的服务旨在简化、扩展并帮助提高AI模型训练和部署的安全足迹。通过简化InstructLab模型调优,组织可以构建更高效的模型,以满足组织的独特需求,同时保留对其数据的控制权。
**红帽AI InstructLab on IBM Cloud免费的AI基础培训**
AI是一个变革性的机会,正在重新定义企业如何运作和竞争。为了支持企业在这一动态环境中发展,红帽现在提供免费的AI基础在线培训课程。红帽提供了两个AI学习证书,旨在为经验丰富的高级领导者和AI新手设计,帮助所有级别的用户了解AI如何帮助企业转型、简化决策过程并推动创新。AI基础培训指导用户在使用红帽AI时如何应用这些知识。
**免费的AI基础培训可用性**
红帽OpenShift AI 2.18和红帽企业Linux AI 1.4现已普遍可用。更多关于附加功能、改进、错误修复以及如何升级到红帽OpenShift AI最新版本的信息可以在这里找到,而最新的RHEL AI版本可以在这里找到。红帽AI InstructLab on IBM Cloud即将推出。红帽提供的AI基础培训现已面向客户开放。
**支持性引述**
乔·费尔南德斯(Joe Fernandez),副总裁兼总经理,红帽人工智能事业部:
“红帽深知,随着企业将更多生成式AI用例投入生产并实现规模化运行,他们需要有效管理生成式AI部署成本上升的方法。同时,他们需要解决如何将人工智能模型与私有企业数据集成的难题,并且能够在数据所在的任何地方——无论是本地、公共云还是边缘环境——部署这些模型。红帽人工智能通过帮助企业利用更高效、专为特定需求设计的模型,基于其自身数据进行训练,并在本地、云端和边缘环境中实现灵活推理,帮助应对这些挑战。”
雷吉·莱斯巴雷雷斯(Régis Lesbarreres),空中客车直升机公司数字创新部门高级分析与人工智能创新经理:
“在我们的人工智能之旅开始时,空中客车直升机公司希望将人工智能集成到现有架构中,减少影子IT,让数据科学家在一个统一的人工智能平台上协同工作,并以规模化方式优化成本。借助红帽OpenShift AI,我们实现了所有这些目标,这促使我们首次推出了针对业务的人工智能应用案例。红帽的人工智能战略与我们的业务目标相契合,使我们能够在保持灵活性、可访问性和透明性的同时达成这些目标。”
哈维尔·奥拉索拉·卡辛(Javier Olaizola Casin),IBM咨询公司混合云与数据全球管理合伙人:
“越来越多的企业正在将人工智能应用于改造核心业务流程,他们需要灵活、经济高效且经过可信企业数据调优的人工智能解决方案来满足其独特需求。红帽人工智能提供了组织构建和部署人工智能模型及应用程序所需的稳定性、可靠性和速度,无论是在混合云场景下。结合IBM咨询在专业领域、技术和行业的专长以及红帽的人工智能技术,我们正协助客户从其技术投资中获取收益。”
托尔斯滕·沃尔克斯(Torsten Volks),ESG应用现代化首席分析师:
“领先组织通过跨团队和业务单元的数据驱动决策利用人工智能。因此,在整个企业内快速、经济有效地开发、部署、集成、扩展和治理人工智能能力成为一项关键的成功因素。建立这种能力需要一个开放且可扩展的人工智能基础,确保能与现有系统和流程无缝对接、具备运营灵活性并实现持续治理。让员工和客户能够更快、更深入地享受到人工智能带来的好处对于持续的业务成功至关重要。”
阿南德·斯瓦米(Anand Swamy),HCLTech执行副总裁兼全球生态系统主管:
“为了充分发挥生成式人工智能的潜力,组织需要优先考虑敏捷和灵活的基础设施。通过结合红帽人工智能的能力,包括RHEL AI和红帽OpenShift AI以提供端到端的人工智能应用平台,以及HCLTech领先的AI专业知识和认知基础设施服务——HCLTech AI Foundry解决方案的一部分,客户能够获得一条简化的路径来解锁人工智能创新,助力他们解决诸如数据安全、扩展人工智能任务以及降低基础设施成本等常见问题。”
**额外资源**
– 深入了解红帽人工智能
– 探索红帽的AI产品组合
– 了解更多关于对齐调优和RAG
– 了解优化GPU以获得更高的ROI
– 阅读可扩展且成本效益高的微调
– 了解NVIDIA NIM on Red Hat OpenShift AI
– 阅读更多关于红帽AI培训
– 参与红帽AI基础培训
– 阅读更多关于红帽AI培训
**联系红帽**
如需了解更多信息,请联系红帽。
**关于红帽公司**
红帽是全球领先的企业开源软件解决方案供应商,采用社区驱动方法提供可靠且高性能的Linux、混合云、容器和Kubernetes技术。红帽帮助客户整合新旧IT应用程序,开发云原生应用程序,标准化于行业领先的操作系统,并自动化、保护和管理复杂的环境。屡获殊荣的支持、培训和咨询服务使红帽成为《财富》500强公司的信赖顾问。作为云服务提供商、系统集成商、应用供应商、客户和开源社区的战略合作伙伴,红帽可以帮助组织为数字未来做好准备。
(以上内容均由Ai生成)