戴尔PowerEdge空气冷却服务器助力企业高效应对AI计算挑战
快速阅读: 企业全面进入AI应用时代,戴尔PowerEdge服务器以高效空气冷却技术和强大性能支持AI工作负载,帮助企业降低成本、提高能效,适应不断增长的计算需求。
企业已全面进入人工智能应用时代,IT领导者深知,扩大AI基础设施将是这一进程的关键。除了评估云服务提供商和AI设备外,这主要体现在专用服务器机架的大范围扩展上,这些机架大多运行在数据中心环境中。
当前,企业在部署用于AI的服务器机架时面临的最紧迫挑战之一是高效冷却。2023年麦肯锡的一项分析显示,冷却约占数据中心能耗的40%,而在计算密集型AI工作负载的时代,对经济实惠且有效的冷却方法的需求比以往任何时候都更为迫切。
虽然一些数据中心通过液体冷却来解决这个问题,但空气冷却系统仍有其显著优势,可以提供出色性能而无需高昂成本。戴尔是空气冷却服务器领域的领先者,凭借多年的经验,其硬件能够在满足严苛计算需求的同时保持最佳温度。
戴尔的PowerEdge产品线是这一专长的典范,PowerEdge服务器在各种应用场景下均表现出灵活的性能,从小型企业到大型跨国公司都能满足需求。这种灵活性还体现在戴尔服务器支持所有主流操作系统上,确保企业能够继续依赖其现有的环境,如Windows和Linux,以及VMware ESXi和Red Hat Enterprise Linux 9。
总体而言,戴尔PowerEdge为企业提供了在采用AI模型方面的优势,具有竞争力的性能和创新的冷却解决方案,使企业能够在不大幅增加运营成本的情况下利用AI。
戴尔PowerEdge空气冷却服务器的性能如何?
冷却服务器机架有多种方法,戴尔在其广泛的PowerEdge服务器产品线上均有所涉猎,包括液体冷却和空气冷却。戴尔的空气冷却PowerEdge服务器专为应对企业级AI工作负载而设计。例如,戴尔PowerEdge XE7745最多可支持八个NVIDIA H100或A100 GPU,为训练和推理提供强大的加速能力。该系统由两颗AMD EPYC处理器驱动,每颗处理器最多可达96核,总共有192个CPU核心。
这款硬件旨在大规模运行AI推理,结合了处理能力和效率,以满足大模型训练、推理和微调的需求。空气冷却服务器在可扩展性方面具有优势,企业可以在不增加液冷系统复杂性的前提下快速且经济地扩展基础设施。
借助戴尔PowerEdge XE7745,企业可以通过添加更多服务器轻松扩展AI工作负载,利用标准机架部署和增强的风扇及优化的气流管理,使组织能够适应日益增长的计算需求,同时保持灵活性并降低与冷却基础设施相关的运营成本。PowerEdge XE系列旨在随企业的AI项目共同进化,支持随着需求的增长无缝扩展。
同样,戴尔PowerEdge R7615在紧凑的2U机架形式中提供了卓越的性能,支持单颗第四代AMD EPYC 9004系列处理器,最多可达128核。它配备了高密度内存,最多12个DDR5 DIMM插槽,最大容量可达3 TB,支持高达4800 MT/s的内存速度。系统配备PCI Express Gen5扩展插槽,提供巨大的数据吞吐量。R7615可以配置高级空气冷却或可选的直接液体冷却,以适应不同的部署需求。
广告技术巨头Taboola使用戴尔PowerEdge服务器实现强大且一致的处理能力。正如其15,000家广告商依赖Taboola每天向数亿用户提供服务,每秒提供500,000次AI驱动的推荐一样,Taboola也依赖戴尔提供所需的计算能力,以确保其业务平稳高效地运行。
“PowerEdge服务器以紧凑的形式加速我们的AI创新,具备极高的计算能力。”Taboola的IT和网络安全副总裁Ariel Pisetzky表示。该公司将PowerEdge服务器集群用于应用程序运行,每一代PowerEdge服务器在不扩大数据中心规模的情况下,性能提升了30-76%。这是通过提高功率密度和高效的冷却实现的。
“每新一代的PowerEdge服务器都在相同的占地面积内提供了新的性能水平……我们不需要扩大数据中心,而是可以在现有空间内提高密度,产生所需的所有计算能力。”
他继续说:“生成式人工智能已经到来,并将长期存在。戴尔PowerEdge服务器提供了运行我们的人工智能所需的非凡动力。”R系列是戴尔优化工作的明显例子,提醒所有企业,高效利用服务器机架对于解锁人工智能投资回报与所部署的人工智能模型质量同样重要。
例如,第17代R系列PowerEdge相比上一代产品性能提升了1.5倍,每瓦性能提高了28倍。这一功率效率的提升,加上显著的性能增强,很大程度上归功于戴尔可靠的冷却技术。
网络托管公司Hostinger深知R系列PowerEdge服务器带来的好处。该公司使用戴尔PowerEdge R6615服务器为其客户提供高性能、可靠且低延迟的服务。因此,公司在其核心服务方面实现了20%的性能提升,价格性能比也提高了20%。
“市场上任何人都可以提供良好的托管服务,但如果缺乏支持这些服务的基础设施,最终会失败,”Hostinger基础设施主管斯克米安塔斯·朱拉什卡表示。“我们的AI操作将随着时间扩展,配备AMD处理器的戴尔PowerEdge服务器将推动这一转型,将AI的力量与我们的数据整合。”
总之,戴尔PowerEdge系列旨在提供企业级的人工智能性能,而不牺牲能源效率。通过密集的机架设计和相对于前代产品及竞争对手的显著性能提升,戴尔PowerEdge为各种规模的企业提供了极高的性价比。
戴尔PowerEdge为何如此高效?
在空气冷却基础设施方面,并非所有风扇都相同。戴尔采取尽可能高效的空气冷却方法,采用创新的冷却算法跟踪机架温度,以最低可能的风扇速度维持最佳水平。
例如,戴尔测试发现,在80°C和90°C时,测试机架中的CPU可靠性相同,但实现这两个温度之间的能耗差为22瓦。这一差异应用于整个数据中心的所有机架,可以累积成显著的能源节省。PowerEdge系列配备了大量精密传感器,每个产品中有50到70个传感器用于监控所有板载组件,包括CPU、GPU、NPU以及电源单元和I/O模块。这使得风扇转速降低,减少了能源成本并延长了基础设施的使用寿命。
事实上,戴尔的服务器以其可靠性著称。R系列已经是全球部署最广泛的PowerEdge服务器,被认为是数据中心广泛使用的首选选项,其最新版本提供了更高的性能、磁盘密度和能效。这些优势不仅适用于大型企业。马里科帕县记录员办公室使用戴尔PowerEdge服务器向每天3,000至5,000名用户提供数字服务,如文档检索,处理大约4900万可搜索文件。
凭借每台PowerEdge服务器的每瓦性能,马里科帕县记录员办公室大幅降低了数据中心成本:通过将物理服务器数量从50台减少到6台,实现了90%的成本节约。同时,这些服务器能够按需扩大计算能力至日常需求的200倍,以应对选举季节的需求激增。
“我们可能几个月不需要投入太多计算资源来处理选举事务,然后又需要迅速扩大到平时日均需求的200倍,”马里科帕县记录员办公室IT主任内森·扬说。“使用配备Xeon® Intel核心处理器的PowerEdge服务器,我们可以根据需要扩展计算资源,同时节省能源和机架空间。”
戴尔PowerEdge XE7745采用了宽敞的4U机架底盘,设计用于支持高性能组件和密集型人工智能工作负载。该底盘为高级气流管理提供了充足的空间,配备了高容量风扇,即使在苛刻的计算环境中也能有效散热。
包括XE7745在内的PowerEdge XE系列可以安装后门热交换器(RDHx)。RDHx解决方案通过将服务器机架排出的热空气通过热交换器,由循环冷水吸收热量,从而主动冷却热空气。这一过程有效地降低了返回数据中心的空气温度,无需在服务器底盘内部直接使用液体冷却,有助于保持最佳运行条件,支持可扩展的人工智能部署。
戴尔进一步采用了这一经过验证的方法来高效冷却组件,推出了戴尔PowerCool封闭式后门热交换器(eRDHx)。
传统的RDHx需要20摄氏度(68华氏度)的水才能正常工作,而戴尔的eRDHx通过将冷却后的空气循环至服务器机架前端,提供进一步的冷却效果,这意味着操作员可以使用32摄氏度(90华氏度)的水达到相同的效果。总体而言,RDHx技术已将机架能耗降低了10倍,使得领导者可以在不增加电力消耗的情况下,扩展其AI计算基础设施16%。总结来说,戴尔正在采取积极和消极的热能和能源减少措施,利用知名和创新的技术,确保其基础设施尽可能减少对客户资本支出的影响。如果您认为PowerEdge服务器适合您的业务,请访问戴尔官网了解价格选项。
(以上内容均由Ai生成)