未来的商业 AI 是专业服务吗?
快速阅读: 《ITProPortal》消息,FluidStack由牛津大学孵化,专注GPU资源服务。起初为科研和AI实验室提供GPU,后应客户需求转型私有云,与戴尔和英伟达合作 servicing 法国生成式AI公司Mistral。其专业化的基础设施和优质软件平台提升了服务效率,使其在竞争中脱颖而出。
FluidStack这个名字对大多数机构来说或许并不熟悉,除非它们涉足科学研究领域。然而,这家公司的经验和商业模式可以为多个行业提供宝贵的参考。这家公司由塞萨尔·马克拉里(César Maklary)和加里·吴(Gary Wu)创立,是牛津大学孕育出的众多科技企业之一。正如产品副总裁麦克·麦当劳(Mike McDonald)所言:“他们最初的构想就像一群大学生努力获取GPU资源一样。”
“当时,即便是拿到Nvidia T4或1000系列GPU都极其困难,所以他们的整个想法就是在2017年如何构建一个市场——如何让所有这些能力都得以实现?”麦当劳说。“起初它只是一个GPU市场,但经过多次迭代,比如如何将其应用于游戏?如何服务于科学计算?”正是在这个领域,公司奠定了如今的基础,从模拟起步,后来转向将GPU资源提供给AI研究实验室,作为GPU转售商。“我们会从第三方获取容量——其他二级云服务提供商或前加密货币矿工购买的GPU容量。马克拉里和吴发现,研究人员不知道如何使用裸机GPU,而加密公司也不清楚如何构建AI云,所以我们填补了这一空白。”麦当劳表示。
随后,客户开始要求提供更私有的基础设施设置,其中一家来自法国生成式人工智能公司魔法(Mistral)的请求尤为突出。麦当劳提到:“魔法不断壮大,我们部署了一些大型1000、2000节点集群。然后他们说:‘好吧,把这些带走吧。’”就在这个时候,公司与戴尔(Dell)和英伟达(Nvidia)合作,在冰岛的数据中心安装了160台服务器,成为了魔法的私有云供应商。
尽管魔法是一个重要客户和合作伙伴,但FluidStack的目标客户依然是研究实验室。从公司的角度来看,这比与其他更通用的云服务提供商竞争更有意义,无论是在竞争层面还是希望为客户提供更精准的服务方面。
“为那些用信用卡支付每小时1美元GPU费用的人建立多租户基础设施——在这个领域有许多人。我们发现有许多公司并未追求超级高端市场,而是满足于各种需求。”麦当劳说。相比之下,FluidStack选择了这条路线,他表示这让他们在技术和服务上都成为更好的企业。“这迫使我们成为更好的工程师和更以客户为中心的组织,”他说。“我们专注于最前沿的技术。”
“我们还有一个基础软件平台Atlas,这是协调工具,”他继续说道。“有了Atlas,当一个客户遇到一些奇怪的Nvidia XID错误时,我们可以将其回溯到其他客户中去。”
“许多客户都在做类似的事情,并会遇到相同的问题。我们可以为其中一个客户解决问题,其他客户甚至都不知道这曾是个问题。因此,通过选择更复杂的客户促使我们构建更优质的软件,我们最终拥有了一个更高效的软件平台。”
换句话说,专业化对客户和基础设施提供商都有利。
(以上内容均由Ai生成)