DeepSeek开源并发布3FS,高速并行文件系统优化AI数据访问

PANews|2025年02月28日 01:12
据DeepSeek公告,在开源周第五天,其Fire-Flyer文件系统(3FS)正式开源,作为一款高性能并行文件系统,3FS可充分利用现代SSD和RDMA网络,实现高速数据访问,提升AI模型训练与推理效率。
3FS关键性能指标:
在180节点集群中实现6.6 TiB/s总读取吞吐量;
在25节点GraySort基准测试中达到3.66 TiB/分钟吞吐量;
单节点KVCache查询峰值吞吐量超40+ GiB/s。
3FS采用分离式架构,支持数据预处理、数据集加载、检查点存储/恢复、嵌入向量搜索及推理KVCache查询,具备强一致性语义。DeepSeek同步推出Smallpond数据处理框架,进一步优化3FS数据管理能力。
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接