Dell EMC 的 AI 基础架构更新如何提供选择、控制和扩展
快速阅读: 《福布斯》消息，戴尔科技世界大会以“用AI创造未来”为主题，宣布扩展AI工厂平台，推出40多项增强功能。戴尔强调AI是人类的合作伙伴，能加快决策并揭示数据模式。大会展示了AI在提高生产力和改善客户体验方面的实际应用，如摩根大通和劳埃德家居的成功案例。
戴尔科技世界大会以“用AI创造未来”为主题展开，戴尔科技公司在今天的年度戴尔科技世界大会上宣布大幅扩展其戴尔AI工厂平台，推出了40多项产品增强功能，旨在帮助企业更高效地在本地环境和云系统中部署人工智能工作负载。
**戴尔AI工厂**并非实体制造厂，而是一个综合性框架，整合了先进的基础设施、经过验证的解决方案、服务以及开放的生态系统，帮助企业充分发挥人工智能的潜力，无论是在数据中心、云端还是边缘位置和AI个人电脑等多样化环境中。
自去年推出该平台以来，公司已经吸引了超过3000名AI工厂客户。在与行业分析师的早前通话中，戴尔分享了一项研究结果，指出79%的生产型AI工作负载运行在公共云环境之外——这一趋势受到成本、安全性和数据治理问题的驱动。在主题演讲中，迈克尔·戴尔进一步阐述了戴尔AI工厂概念的价值。他表示：“戴尔AI工厂比公共云节省成本高达60%，最近的研究表明大约四分之三的AI项目达到了或超过了预期目标。这意味着一些组织的ROI和生产力提升幅度在20%到40%之间。”
### 使AI更容易部署
企业需要自由选择最符合其业务需求的地方运行AI工作负载，而不牺牲性能或控制权。虽然IT领导者最初采用了公共云来支持其AI服务，但许多组织现在正在寻求一种更为精细的方法，在这种方法中，公司可以控制其最关键的AI资产，同时保持使用云资源的灵活性。洛佩兹研究公司采访的超过80%的公司表示，他们难以找到预算和技术人才来部署AI。随着越来越多的AI模型和AI基础设施服务的推出，这些AI部署挑战变得更加严峻。
### 硅多样性与客户选择
戴尔AI工厂信息传递的一个核心主题是如何让戴尔在提供选择的同时使AI更容易部署。戴尔通过设计中的硅多样性以及独立软件供应商（ISV）模型为客户提供选择。该公司宣布已将英特尔添加到其AI工厂产品组合中，包括英特尔Gaudi 3 AI加速器和英特尔Xeon处理器，重点放在推理工作负载上。
更多内容请参阅：
– 苹果iPhone更新——为什么你需要更换你的消息应用
– 三星以Android更新决定令Galaxy用户感到意外
– 马拉松即将结束
戴尔还宣布了与AMD合作的Dell AI平台第四次更新，推出了两款新的PowerEdge服务器——XE9785和XE9785L，配备了最新的AMD Instinct MI350系列GPU。戴尔与NVIDIA合作的AI工厂整合了戴尔的基础设施与NVIDIA的AI软件及GPU技术，最多可将设置时间缩短86%，相比传统方法。公司还继续加强与NVIDIA的合作关系，宣布了利用NVIDIA Blackwell家族和其他在NVIDIA GTC上发布的更新的产品。截至目前，戴尔通过提供所有主要GPU和AI加速器基础设施厂商的AI解决方案，支持客户选择。
### 客户端AI进展
在AI工厂生态系统的边缘，戴尔宣布了对Dell Pro Max移动形式的增强功能，利用了高通设计的AI 100独立NPU，适用于需要快速推理能力的AI工程师和数据科学家。这些设备具有高达288 TOPs的16位浮点精度，能够驱动高达700亿参数的模型，推理速度提升7倍，准确率提升4倍。根据戴尔的说法，Pro Max Plus系列可以运行一个1090亿参数的AI模型。
Dell Pro Max和Plus的发布紧随之前Dell关于配备NVIDIA Grace Blackwell架构的GB 10和GB 300处理器的AI PC的公告。总体而言，Dell精简了其PC产品线，但通过提供来自AMD、英特尔、英伟达和高通的最新芯片，让客户更容易为其工作负载挑选合适的系统。
### 本地AI部署获得生态系统动力
遵循选择的主题，组织需要灵活地在本地和云端运行AI工作负载。戴尔正与主要软件合作伙伴携手，大力推动本地AI部署。该公司宣布成为首个将Cohere能力引入本地的供应商，结合Cohere的生成式AI模型与戴尔安全且可扩展的基础设施，为企业解决方案提供助力。
戴尔还宣布了与Mistral和Glean类似的合作伙伴关系，并协助它们完成首次本地部署。此外，戴尔还通过Google分布式云支持Google的Gemini本地化。
为了简化模型部署，戴尔现在为客户提供选择Hugging Face上的模型并在自动化容器和脚本中部署它们的能力。企业逐渐认识到，尽管公共云AI有其价值，但混合AI基础设施方法可能为生产工作负载带来更好的经济效益和安全性。
### 对边缘的可扩展且高效的AI基础设施的需求正在增长
正如迈克尔·戴尔在其戴尔科技世界主题演讲中所说：“超过75%的企业数据很快将在边缘创建和处理，AI将跟随这些数据；反之则不然。AI的未来将是去中心化的、低延迟的和超高效的。”
随着越来越多的公司寻求本地支持甚至潜在的完全隔离方案来保护其最敏感的AI工作负载，戴尔提供强大混合和完全本地化AI解决方案的能力正成为一个显著优势。采用戴尔AI工厂的关键行业包括金融、零售、能源和医疗保健提供商。
### 扩展AI需要关注能效
对于边缘的可扩展且高效的AI基础设施的需求正在增长。正如迈克尔·戴尔在其戴尔科技世界主题演讲中所说：“超过75%的企业数据很快将在边缘创建和处理，AI将跟随这些数据；反之则不然。AI的未来将是去中心化的、低延迟的和超高效的。”
简化AI还需要提供成本效益高、节能的技术创新。随着AI工作负载推动前所未有的电力消耗，戴尔在其最新产品中优先考虑能效。该公司推出了带集成机架控制器（IRC）的戴尔PowerCool封闭式后门热交换器（eRDHx）。这种新的冷却解决方案几乎捕获了来自GPU密集型工作负载的全部热量。这项创新降低了机架的冷却能耗需求60%，允许客户在同一电力基础设施下部署16%更多的机架。
戴尔的新系统被评定为可以在32至37摄氏度范围内运行，支持比传统风冷或水冷系统更高的温度，进一步减少了冷却所需的电力消耗。PowerEdge XE9785L现在提供了戴尔液体冷却，用于灵活的电源管理。即使公司没有设定特定的可持续发展目标，每个组织都希望提高能源利用率。
### 早期采用案例凸显了AI带来的机遇
在过去一年内，戴尔科技集团的AI工厂推出了超过200项产品增强功能，正在迅速成为企业AI基础设施市场的重要参与者。它提供了组织所需的各种解决方案和专业知识，以安全且可扩展的方式成功部署生产级AI系统。然而，如果企业无法找到通过采用这些技术创造商业价值的方法，所有这些技术都将失去意义。幸运的是，首批企业早期采用者的案例展示了AI如何在提高生产力和改善客户体验方面带来有意义的回报。让我们看看在戴尔科技世界大会上展示的两个实际应用案例。
### 戴尔科技集团首席执行官迈克尔·戴尔在戴尔科技世界大会上采访了摩根大通全球技术战略、创新与合作伙伴关系主管拉里·费因史密斯。
**摩根大通金融领域的大型语言模型（LLM）的力量**
摩根大通登台展示了从客户角度实现AI的实际应用场景。这家金融机构使用了戴尔的计算硬件、软件定义存储、客户端和外围设备解决方案。摩根大通全球技术战略、创新与合作伙伴关系主管拉里·费因史密斯表示：“我们采用了混合、多云、多供应商的战略。我们的私有云对我们来说是一个极其重要的战略性资产。我们仍然有许多应用程序和数据驻留在本地，以确保高可用性、低延迟以及其他多种优势。”
费因史密斯还谈到了公司的大型语言模型（LLM）战略。他说：“我们的战略是使用由基础模型和开放模型组成的星座图，这需要我们在本地数据中心、公共云以及当然边缘环境中进行大量的计算。无论是在训练模型、微调模型还是寻找具有大规模推理能力的优秀用例时，不变的一点是它们都会推动计算需求。我们认为戴尔在帮助摩根大通和其他公司实现其AI旅程方面处于非常有利的位置。”
费因史密斯指出，摩根大通使用AI并非新鲜事。十多年来，摩根大通一直利用各种类型的AI，例如用于欺诈检测、个性化和营销运营的机器学习模型。该公司使用了费因史密斯所说的LLM套件，目前摩根大通超过20万名员工正在使用该套件。生成式AI应用以高度安全的方式利用摩根大通的数据进行质量检查摘要和内容生成。接下来，该公司利用LLM套件架构为其财务顾问、联络中心代理以及任何与客户互动的员工构建应用程序。第三个用例突出了软件开发领域的变化。摩根大通向超过40,000名工程师推出了代码生成AI功能，实现了高达20%的代码创建生产力提升，并计划在整个软件开发生命周期中利用AI。展望未来，这家金融机构预计将使用AI代理和推理模型来执行端到端的复杂业务流程。
### **劳埃德家居改进商店提供了另一个例子，展示了公司如何利用戴尔技术和AI来改变客户和员工的体验。**
劳埃德的执行副总裁兼首席数字与信息官西蒙蒂尼·戈博勒分享了关于制定AI策略的见解，她说：“我们应该如何部署AI？我们希望做有意义的事情。我们不想死于成千上万的小规模试验，我们将努力在销售、购物和工作方式上取得进展。销售是为我们的员工，购物是为我们的顾客，而工作则是为总部的员工。出于某种原因，大多数公司最初都从总部的员工开始。我们说，不，我们要把AI交给30万员工。”
**AI如何让劳埃德员工更容易服务客户**
例如，她描述了一个面向门店员工的生成式AI同伴应用程序。“现在每位门店员工都可以在其斑马设备上获得类似ChatGPT的家居改善体验。” 戈博勒说。劳埃德还在边缘部署了计算机视觉算法，以理解诸如特定通道中的顾客是否需要帮助之类的问题。然后系统会向该部门的员工发送通知。顾客还可以在Lowes.com/AI上询问各种家居改进问题，例如浴室应使用哪种油漆饰面等。
### **设计一个AI基础设施带来人类机遇的世界**
迈克尔·戴尔说：“我们正进入一个普遍智能的时代，AI将成为像电力一样必不可少的存在。有了AI，你可以将多年的经验浓缩为即时洞察，加快决策速度并揭示海量数据中的模式。但AI不是为了取代人类而存在。AI是一种合作者，它释放你的团队去做他们最擅长的事情，去创新、去想象，并解决世界上最棘手的问题。”
尽管前方仍有诸多AI部署挑战，但戴尔科技世界大会上分享的客户案例展示了AI基础设施和服务如何同时造福客户和员工。现在的挑战是如何以可持续且合乎伦理的方式大规模实现这一目标。
(以上内容均由Ai生成)
