深度学习、大模型训练主要依靠显卡,因此,显卡性能参数尤为重要

目前常用的显卡4090、A6000.

常用配置以单卡、双卡、四卡工作站,八卡服务器为主

双卡4090工作站推荐

CPU:1颗16核心 2.4GHz Intel Xeon Silver 4314

内存:6根32GB DDR4 3200MHz ECC REG

硬盘:1块500GB M.2 SSD系统盘+1块8TB SATA 企业级硬盘作为数据盘

GPU:2张NVIDIA Geforce RTX 4090三风扇版

电源:2000W静音单电源

四卡4090塔式静音服务器推荐

CPU:2颗36核心 2.1GHz Intel Xeon Platinum 8352V

内存:12根32GB DDR4 3200MHz ECC REG

硬盘:1块1TB M.2 SSD系统盘+1块18TB SATA 企业级硬盘作为数据盘

GPU:4张NVIDIA Geforce RTX 4090三风扇版

电源:2000W+2000W静音双电源

八卡4090服务器推荐

CPU:2颗36核心 2.1GHz Intel Xeon Platinum 8352V

内存:16根32GB DDR4 3200MHz ECC REG

硬盘:1块1TB U.2 SSD系统盘+3块18TB SATA 企业级硬盘作为数据盘

GPU:NVIDIA Geforce RTX 4090涡轮版

电源:4个2000W冗余电源

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐