Red Hat 简化了 AI 应用程序训练和推理的数据访问
快速阅读: 据《硅角度》最新报道,红帽公司推出一系列新功能,强化其平台作为企业人工智能系统基础的能力。更新包括红帽企业级Linux人工智能和红帽OpenShift人工智能,旨在提升人工智能训练和推理效率,简化混合云环境部署,增强安全性与可扩展性,助力企业更高效地开发和部署人工智能应用。
开源巨头红帽公司(红帽公司)正致力于强化其平台成为企业人工智能系统基础的能力,今日宣布了一系列旨在加速开发和部署的新功能。
该公司表示,今年九月推出的“红帽人工智能”(红帽人工智能)套件更新旨在提升人工智能训练和推理的效率,同时通过在混合云环境中灵活部署简化用户体验。开源巨头红帽公司正在加强其平台成为企业人工智能系统基础的案例,今日宣布了一系列旨在加速开发和部署的新功能。
红帽人工智能涵盖了红帽的两个关键产品。第一个是红帽企业级Linux人工智能(红帽企业级Linux人工智能),它是标准红帽企业Linux操作系统(RHEL)的专用版本,专为部署基础大型语言模型(LLMs)而设计。开发者可以使用它来部署基于IBM公司花岗岩LLMs以及其他如OpenAI的GPT系列的人工智能应用。该平台以优化且可引导的RHEL镜像形式提供,可以在本地服务器或混合云环境中部署。
红帽人工智能的另一个主要组成部分是红帽OpenShift人工智能(红帽OpenShift人工智能),这是一个可扩展的人工智能和机器学习开发平台,用于大规模创建、测试并部署人工智能应用。根据红帽的说法,企业仍在努力将其人工智能应用程序和模型与其用于训练的专有数据集成起来,以便处理更具体的应用场景。这包括散布在本地服务器、云基础设施平台,甚至是在网络边缘生成的数据传感器和其他设备中的信息。
企业战略集团首席分析师托尔斯滕·沃尔克斯(托尔斯滕·沃尔克斯)表示,能够快速且具成本效益地开发、部署、整合并扩展人工智能已成为当今组织的关键成功因素。红帽表示,今天对红帽OpenShift AI和RHEL AI的更新有助于巩固这一基础,为开发更高效、更优化的模型铺平道路,这些模型可以根据特定业务数据进行微调,并确保数据安全。然后,它们可以在本地、云端及边缘环境中的各种加速计算架构上部署,包括Nvidia公司的图形处理器。
红帽OpenShift AI
从今天起一般可用,红帽OpenShift AI 2.18增加了新功能,包括分布式服务支持,使团队能够将模型服务分布在多个GPU之间,从而减轻服务器基础设施的操作负担。通过在GPU集群上部署人工智能,团队可以显著加快训练和推理速度,并最大化底层基础设施的效率。OpenShift AI还增加了对红帽AI InstructLab和OpenShift AI数据科学管道的支持,以创建“端到端模型调整体验”。该公司称,在大型生产环境中,它更加可扩展且可审计,有助于提升人工智能应用的安全性。
此外,还有针对LLM增强的安全护栏,旨在改善其性能和输出准确性,同时增加透明度。新的护栏监控输入和输出,使用户能够识别并防范所谓的“提示注入攻击”,这种攻击旨在操纵人工智能系统生成有害、仇恨或不雅的言论或泄露敏感信息。
此外,该平台还将获得一个新的语言模型评估组件,提供关于LLM整体质量的重要洞察,帮助数据科学家在各种任务中(如数学和逻辑推理)基准化其表现。
红帽企业级Linux人工智能
至于RHEL AI,这里的主要更新是对最新花岗岩3.1 8B模型的支持,这是开源和硬件高效的花岗岩LLM家族中最强大的模型。它是首个支持多语言推理和分类法定制以及知识定制的模型,并具有更大的128K上下文窗口,可改进摘要输出。RHEL AI还获得了改进的图形用户界面,以支持对AI模型的技能和知识贡献。作为开发者预览版推出,它旨在简化数据摄取和分块任务,让开发人员能更轻松地增强所用LLM的知识。
最后,还有一个新的文档知识库,使开发人员能更轻松地比较不同经过私人数据微调的LLM的表现。
红帽AI副总裁兼总经理乔·费尔南德斯(乔·费尔南德斯)表示,企业仍在寻求方法,以简化私有数据与AI模型的融合,并管理这些活动日益增长的成本。“红帽AI帮助企业应对这些挑战,使其能够利用在其数据上训练出的更高效、针对性更强的模型,以及在本地、云端及边缘环境中的灵活推理能力。”
在今天宣布的其他更新中,红帽表示很快将在IBM云上推出流行的InstructLab工具,使团队能够简化、扩大规模并增强在其平台上训练LLM时的安全性。预计将在春季推出,该公司表示,这对需要使用私人数据微调AI模型的团队特别有用。
最后,红帽表示,其客户现在可以免费访问其AI Foundations在线培训课程。这些课程对非客户收费,提供两条AI学习认证通道,分别为经验丰富的专业人士和AI初学者,教导学习者如何运用AI优化业务运营和决策,并加速创新。
图片:硅立方联合创始人约翰·弗莱纳(约翰·弗莱纳)的一条消息:一键即可支持我们的使命,提供免费、深入且相关的内容。加入我们的YouTube社区,包含超过15,000位#CubeAlumni专家的社区,其中包括亚马逊CEO安迪·贾西(安迪·贾西)、戴尔科技创始人兼CEO迈克尔·戴尔(迈克尔·戴尔)、英特尔CEO帕特·基辛格(帕特·基辛格)等众多名人和专家。
“硅立方是我们行业的重要合作伙伴。你们真的是我们活动的一部分,我们非常感谢你们的到来,我知道人们也欣赏你们创造的内容。”——安迪·贾西(安迪·贾西)
谢谢!
(以上内容均由Ai生成)