DeepSeek 颠覆了并行文件系统,发布了强大的全新开源 Fire-Flyer 文件系统
快速阅读: 《Tom 的硬件》消息,如果OpenAI和谷歌等公司在这一领域没有进行大量优化,我会感到惊讶。我很好奇他们使用了哪些技术。虽然不确定Ceph是否是最合适的比较对象,但我认为Facebook/Meta在存储I/O方面的内核优化可能与此有关。这些优化包括Linux内核的IOPS提升和多种I/O改进。祝贺DeepSeek发布其解决方案,期待更多类似成果。
如果OpenAI、谷歌等公司在这一领域没有进行大量优化,我会感到非常惊讶。我很想知道他们使用了什么技术。我也不能确定Ceph是否是最合适的比较对象,但我对分布式文件系统几乎一无所知。我想起了Facebook/Meta在存储I/O方面所做出的重大内核优化。当时我没有把这与AI联系起来,但这些可能是推动因素之一:
– 《Linux每核心实现1400万IOPS》(2022年3月23日)
– 《Linux缓存时间块I/O》(2024年1月6日)
– 《BFQ I/O具有更好的可扩展性》(2024年1月21日)
– 《Linux 6.10中引入的IO_uring》(2024年5月12日)
– 《未缓存的缓冲I/O 2024》(2024年11月13日)
特别是RWF_UNCACHED优化可能与此相关。
我还想指出,上述优化与你在分布式文件系统层所做的工作是正交的,DeepSeek很可能利用了其中的一些优化措施。祝贺DeepSeek发布并公开其解决方案。让我们期待看到更多这样的成果。
(以上内容均由Ai生成)