AI 基础架构的新现实:将计算引入数据,而不是将数据引入计算

发布时间:2025年6月26日    来源:szf
AI 基础架构的新现实:将计算引入数据,而不是将数据引入计算

快速阅读: 据《VentureBeat 公司》最新报道,VB Transform聚焦AI数据存储挑战,PEAK:AIO与Solidigm合作推动医学影像AI创新,提升医疗AI性能与效率。

由企业领袖信赖近二十年的大会。VB Transform聚集了正在构建真实企业AI战略的人士。了解更多随着人工智能在各个行业重塑企业运营,围绕数据存储的关键挑战持续浮现——无论模型多么先进,其性能都取决于快速、安全且可靠地访问大量数据的能力。如果没有适当的数据存储基础设施,即使是最强大的AI系统也会因缓慢、碎片化或低效的数据管道而运行缓慢。这一主题在VB Transform的第一天成为焦点,一场聚焦于PEAK:AIO和Solidigm推动的医学影像AI创新的会议。他们与医学开放网络AI(MONAI)项目携手合作——这是一个开源框架,用于开发和部署医学影像AI,正在重新定义数据基础设施如何支撑医院中的实时推理和训练,从增强诊断到推动高级研究和运营用例。

在这里查看我们所有的Transform 2025报道

在临床AI边缘端进行存储创新

由M12(微软风险投资公司)合伙人迈克尔·斯图尔特主持的会议中,PEAK:AIO首席执行官罗杰·卡明斯和Solidigm产品与市场主管格雷格·马森分享了见解。讨论探讨了下一代大容量存储架构如何通过提供处理临床环境中大规模数据集所需的高速度、安全性和可扩展性,为医学AI开辟新途径。这些架构为医学AI提供了新的可能性。

至关重要的是,这两家公司自MONAI早期阶段就深度参与其中。MONAI是与伦敦国王学院等机构合作开发的,专为医学影像中开发和部署AI模型而设计。这个开源框架的工具集量身打造,针对医疗行业的独特需求,包括DICOM支持、3D图像处理和模型预训练的库和工具,使研究人员和临床医生能够构建高性能模型,例如肿瘤分割和器官分类。

MONAI的一个关键设计目标是支持本地部署,使医院能够在保持对敏感患者数据完全控制的同时,利用标准GPU服务器进行训练和推理。这使得该框架的性能与底层数据基础设施密切相关,需要高速、可扩展的存储系统以充分满足实时临床AI的需求。这就是Solidigm和PEAK:AIO发挥作用的地方:Solidigm带来了高密度闪存存储,而PEAK:AIO则专注于为AI工作负载量身定制的存储系统。

“我们非常幸运能早在伦敦国王学院和塞巴斯蒂安·奥尔松德教授那里开始开发MONAI,”卡明斯解释道。“与奥尔松德合作,我们开发了底层基础设施,使研究人员、医生和生命科学领域的生物学家能够迅速在此框架上进行构建。”

满足医疗AI中的双重存储需求

马森指出,他看到存储硬件出现了明显的分化,不同的解决方案针对AI数据管道的不同阶段进行了优化。对于像MONAI这样的边缘AI部署,以及涉及训练集群输入的场景,超大容量固态存储发挥着关键作用,因为这些环境通常空间和电力资源有限,但又需要本地访问大量数据集。

例如,MONAI能够在医院现有的IT基础设施中的单个节点上存储超过两百万次全身CT扫描。“空间和电力资源极为有限,但高容量存储实现了相当惊人的结果,”马森说。这种效率对于边缘AI在医疗保健领域来说是一个重大变革,使机构能够在不牺牲性能、可扩展性或数据安全性的前提下在本地运行先进的AI模型。

马森指出,他看到存储硬件出现了明显的分化,不同的解决方案针对AI数据管道的不同阶段进行了优化。对于像MONAI这样的边缘AI部署,以及涉及训练集群输入的场景,超大容量固态存储发挥着关键作用,因为这些环境通常空间和电力资源有限,但又需要本地访问大量数据集。

相比之下,涉及实时推理和主动模型训练的工作负载对系统提出了截然不同的要求。这些任务需要能够提供极高每秒输入/输出次数(IOPS)的存储解决方案,以跟上高带宽内存(HBM)所需的数据吞吐量,并确保GPU得到充分利用。PEAK:AIO的软件定义存储层结合Solidigm的高性能固态硬盘(SSD),解决了这一范围的两端——在整个AI管道中提供了所需的容量、效率和速度。

马森指出,他看到存储硬件出现了明显的分化,不同的解决方案针对AI数据管道的不同阶段进行了优化。对于像MONAI这样的边缘AI部署,以及涉及训练集群输入的场景,超大容量固态存储发挥着关键作用,因为这些环境通常空间和电力资源有限,但又需要本地访问大量数据集。

适用于边缘临床AI工作负载的软件定义层

卡明斯解释说,当PEAK:AIO的软件定义AI存储技术与Solidigm的高性能SSD结合使用时,使MONAI能够以临床AI所需的速度读取、写入和归档大规模数据集。这种组合加速了模型训练,并提高了医学影像的准确性,同时在一个专为医疗环境定制的开源框架内运行。

“我们提供一个可以部署在任何通用服务器上的软件定义层,将其转变为高性能的AI或HPC工作负载系统,”卡明斯说。“在边缘环境中,我们将同样的能力缩小到单个节点,使推理更接近数据所在的位置。”

一个关键功能是PEAK:AIO如何通过将内存更直接地整合到AI基础设施中来消除传统的内存瓶颈。“我们将内存视为基础设施本身的一部分——这一观点经常被忽视。我们的解决方案不仅扩展存储,还扩展内存工作区及其相关的元数据,”卡明斯说。这对那些在空间或成本方面难以承担反复运行大型模型的客户来说意义重大。通过保持内存中的数据标记的活跃和可访问性,PEAK:AIO使高效的本地推理成为可能,而无需不断重新计算。

使智能更贴近数据

卡明斯强调,企业需要采取更加战略性的方法来管理AI工作负载。“你不能只是一个终点。你必须了解工作负载。我们在Solidigm及其基础设施上做了一些令人瞩目的技术,以更聪明的方式处理数据,从如何从单个节点中获得性能开始,”卡明斯解释道。“因此,随着推理成为如此大的驱动力,我们看到一般专家正变得越来越专业化。我们现在将我们在单个节点上所做的工作推向数据更近的地方,以提高效率。我们想要更智能的数据,对吧?要做到这一点,唯一的方法就是更接近数据。”

使智能更贴近数据

从大规模AI部署中出现了一些明确的趋势,特别是在新建的数据中心中。这些设施采用高度专业化的硬件架构,尽可能将数据贴近GPU。为了实现这一点,它们严重依赖全固态存储——特别是专为实现PB级存储而设计的超大容量SSD,以高速度和可访问性持续向GPU提供数据,实现高吞吐量。“现在,同样的技术基本上在边缘和企业中以微观形式发生,”卡明斯解释道。“因此,对于AI系统采购者来说,确定如何选择硬件和系统供应商变得至关重要,甚至要确保如果想从系统中获得最大性能,那么你必须使用全固态存储。这使你能带来大量数据,比如MONAI的例子——在一个系统中有超过1500万张图像。这就在末端的小型系统中实现了惊人的处理能力。”

每日关于VB Daily商业用例的见解

如果你想给老板留下深刻印象,VB Daily会帮助你达成目标。我们提供有关公司如何利用生成式AI的内部信息,从监管变化到实际部署,让你分享见解以实现最大化的投资回报。

立即订阅

阅读我们的隐私政策

感谢您的订阅。请查看更多的VB新闻通讯。

发生错误。

(以上内容均由Ai生成)

你可能还想读

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

快速阅读: 谷歌推出Pixel 10手机及Pixel Watch 4,新增卫星紧急通讯、可更换电池和屏幕、抬手通话等功能,屏幕亮度达3000尼特,还将与斯蒂芬·库里合作推出AI健康和健身教练服务。 谷歌本周在“由谷歌制造”活动中推出了Pix […]

发布时间:2025年8月23日
SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

快速阅读: 据《《韩国先驱报》》称,7月20日,SK海力士首登全球内存芯片市场榜首,受益于AI产品和HBM芯片领先地位。其季度利润达9.2万亿韩元,远超三星。 据韩联社报道,7月20日,韩国京畿道伊川,SK海力士首次登上全球内存芯片市场榜首 […]

发布时间:2025年8月1日
STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

快速阅读: 据《印度教业务线》称,STAN获850万美元融资,由万代南梦宫等机构投资。计划拓展印度市场,加强AI功能与创作者工具。平台用户超2500万,专注移动端社交游戏。 记者获悉,8月1日,社交游戏平台STAN宣布完成850万美元的新一 […]

发布时间:2025年8月1日
“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

快速阅读: 据《营销周》称,谷歌推出AI搜索模式,减少外部链接,提升对话式回答。品牌需调整策略,重视内容质量与品牌权威。此变化影响营销方式,竞争加剧。 据谷歌官方消息,7月29日,谷歌在英国推出了基于人工智能的搜索功能AI模式,此前该功能已 […]

发布时间:2025年8月1日
在 Android 上用更智能的应用程序替换 Google Assistant

在 Android 上用更智能的应用程序替换 Google Assistant

快速阅读: 据《电话竞技场》称,据报道,用户可从Google Play下载Meta AI应用,安装后需检查版本是否为230.0.0.36.164或更高。操作方法:进入设置,选择应用,查看Meta AI信息页底部的版本号。 据媒体报道,用户现 […]

发布时间:2025年8月1日
Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

快速阅读: 据《UKTN(英国科技新闻)》称,英国科技媒体UKTN报道,Xero英国总经理凯特·海沃德表示,会计行业无需过度担忧AI自动化。尽管四大事务所裁员,但Xero仍持续投资AI技术,提升效率与服务质量。 据英国科技新闻网站UKTN报 […]

发布时间:2025年8月1日
Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

快速阅读: 据《商业标准》称,Reddit CEO表示,公司正将平台转型为搜索引擎,整合AI功能,提升用户体验。Reddit Answers用户已超600万,计划全球推广。 据《The Verge》报道,7月11日,Reddit首席执行官史 […]

发布时间:2025年8月1日
Meta 超出预期,为“个人超级智能”做准备

Meta 超出预期,为“个人超级智能”做准备

快速阅读: 据《RCR无线》称,Meta二季度营收475.2亿美元,净利润183亿美元。CEO扎克伯格称将打造个人超级智能,但数据中心扩容遇挑战。公司计划2025年支出达1140-1180亿美元。 据媒体报道,7月25日,美国加州,社交媒体 […]

发布时间:2025年8月1日