AI 基础架构的新现实:将计算引入数据,而不是将数据引入计算
快速阅读: 据《VentureBeat 公司》最新报道,VB Transform聚焦AI数据存储挑战,PEAK:AIO与Solidigm合作推动医学影像AI创新,提升医疗AI性能与效率。
由企业领袖信赖近二十年的大会。VB Transform聚集了正在构建真实企业AI战略的人士。了解更多随着人工智能在各个行业重塑企业运营,围绕数据存储的关键挑战持续浮现——无论模型多么先进,其性能都取决于快速、安全且可靠地访问大量数据的能力。如果没有适当的数据存储基础设施,即使是最强大的AI系统也会因缓慢、碎片化或低效的数据管道而运行缓慢。这一主题在VB Transform的第一天成为焦点,一场聚焦于PEAK:AIO和Solidigm推动的医学影像AI创新的会议。他们与医学开放网络AI(MONAI)项目携手合作——这是一个开源框架,用于开发和部署医学影像AI,正在重新定义数据基础设施如何支撑医院中的实时推理和训练,从增强诊断到推动高级研究和运营用例。
在这里查看我们所有的Transform 2025报道
在临床AI边缘端进行存储创新
由M12(微软风险投资公司)合伙人迈克尔·斯图尔特主持的会议中,PEAK:AIO首席执行官罗杰·卡明斯和Solidigm产品与市场主管格雷格·马森分享了见解。讨论探讨了下一代大容量存储架构如何通过提供处理临床环境中大规模数据集所需的高速度、安全性和可扩展性,为医学AI开辟新途径。这些架构为医学AI提供了新的可能性。
至关重要的是,这两家公司自MONAI早期阶段就深度参与其中。MONAI是与伦敦国王学院等机构合作开发的,专为医学影像中开发和部署AI模型而设计。这个开源框架的工具集量身打造,针对医疗行业的独特需求,包括DICOM支持、3D图像处理和模型预训练的库和工具,使研究人员和临床医生能够构建高性能模型,例如肿瘤分割和器官分类。
MONAI的一个关键设计目标是支持本地部署,使医院能够在保持对敏感患者数据完全控制的同时,利用标准GPU服务器进行训练和推理。这使得该框架的性能与底层数据基础设施密切相关,需要高速、可扩展的存储系统以充分满足实时临床AI的需求。这就是Solidigm和PEAK:AIO发挥作用的地方:Solidigm带来了高密度闪存存储,而PEAK:AIO则专注于为AI工作负载量身定制的存储系统。
“我们非常幸运能早在伦敦国王学院和塞巴斯蒂安·奥尔松德教授那里开始开发MONAI,”卡明斯解释道。“与奥尔松德合作,我们开发了底层基础设施,使研究人员、医生和生命科学领域的生物学家能够迅速在此框架上进行构建。”
满足医疗AI中的双重存储需求
马森指出,他看到存储硬件出现了明显的分化,不同的解决方案针对AI数据管道的不同阶段进行了优化。对于像MONAI这样的边缘AI部署,以及涉及训练集群输入的场景,超大容量固态存储发挥着关键作用,因为这些环境通常空间和电力资源有限,但又需要本地访问大量数据集。
例如,MONAI能够在医院现有的IT基础设施中的单个节点上存储超过两百万次全身CT扫描。“空间和电力资源极为有限,但高容量存储实现了相当惊人的结果,”马森说。这种效率对于边缘AI在医疗保健领域来说是一个重大变革,使机构能够在不牺牲性能、可扩展性或数据安全性的前提下在本地运行先进的AI模型。
马森指出,他看到存储硬件出现了明显的分化,不同的解决方案针对AI数据管道的不同阶段进行了优化。对于像MONAI这样的边缘AI部署,以及涉及训练集群输入的场景,超大容量固态存储发挥着关键作用,因为这些环境通常空间和电力资源有限,但又需要本地访问大量数据集。
相比之下,涉及实时推理和主动模型训练的工作负载对系统提出了截然不同的要求。这些任务需要能够提供极高每秒输入/输出次数(IOPS)的存储解决方案,以跟上高带宽内存(HBM)所需的数据吞吐量,并确保GPU得到充分利用。PEAK:AIO的软件定义存储层结合Solidigm的高性能固态硬盘(SSD),解决了这一范围的两端——在整个AI管道中提供了所需的容量、效率和速度。
马森指出,他看到存储硬件出现了明显的分化,不同的解决方案针对AI数据管道的不同阶段进行了优化。对于像MONAI这样的边缘AI部署,以及涉及训练集群输入的场景,超大容量固态存储发挥着关键作用,因为这些环境通常空间和电力资源有限,但又需要本地访问大量数据集。
适用于边缘临床AI工作负载的软件定义层
卡明斯解释说,当PEAK:AIO的软件定义AI存储技术与Solidigm的高性能SSD结合使用时,使MONAI能够以临床AI所需的速度读取、写入和归档大规模数据集。这种组合加速了模型训练,并提高了医学影像的准确性,同时在一个专为医疗环境定制的开源框架内运行。
“我们提供一个可以部署在任何通用服务器上的软件定义层,将其转变为高性能的AI或HPC工作负载系统,”卡明斯说。“在边缘环境中,我们将同样的能力缩小到单个节点,使推理更接近数据所在的位置。”
一个关键功能是PEAK:AIO如何通过将内存更直接地整合到AI基础设施中来消除传统的内存瓶颈。“我们将内存视为基础设施本身的一部分——这一观点经常被忽视。我们的解决方案不仅扩展存储,还扩展内存工作区及其相关的元数据,”卡明斯说。这对那些在空间或成本方面难以承担反复运行大型模型的客户来说意义重大。通过保持内存中的数据标记的活跃和可访问性,PEAK:AIO使高效的本地推理成为可能,而无需不断重新计算。
使智能更贴近数据
卡明斯强调,企业需要采取更加战略性的方法来管理AI工作负载。“你不能只是一个终点。你必须了解工作负载。我们在Solidigm及其基础设施上做了一些令人瞩目的技术,以更聪明的方式处理数据,从如何从单个节点中获得性能开始,”卡明斯解释道。“因此,随着推理成为如此大的驱动力,我们看到一般专家正变得越来越专业化。我们现在将我们在单个节点上所做的工作推向数据更近的地方,以提高效率。我们想要更智能的数据,对吧?要做到这一点,唯一的方法就是更接近数据。”
使智能更贴近数据
从大规模AI部署中出现了一些明确的趋势,特别是在新建的数据中心中。这些设施采用高度专业化的硬件架构,尽可能将数据贴近GPU。为了实现这一点,它们严重依赖全固态存储——特别是专为实现PB级存储而设计的超大容量SSD,以高速度和可访问性持续向GPU提供数据,实现高吞吐量。“现在,同样的技术基本上在边缘和企业中以微观形式发生,”卡明斯解释道。“因此,对于AI系统采购者来说,确定如何选择硬件和系统供应商变得至关重要,甚至要确保如果想从系统中获得最大性能,那么你必须使用全固态存储。这使你能带来大量数据,比如MONAI的例子——在一个系统中有超过1500万张图像。这就在末端的小型系统中实现了惊人的处理能力。”
每日关于VB Daily商业用例的见解
如果你想给老板留下深刻印象,VB Daily会帮助你达成目标。我们提供有关公司如何利用生成式AI的内部信息,从监管变化到实际部署,让你分享见解以实现最大化的投资回报。
立即订阅
阅读我们的隐私政策
感谢您的订阅。请查看更多的VB新闻通讯。
发生错误。
(以上内容均由Ai生成)