| GPU 型号 | 主流采用 NVIDIA A100、H100、A40,或 AMD MI250 等专业加速卡,单台服务器可搭载 4-8 张 GPU,总显存达数百 GB(如 8 张 A100 显存共 640GB)。 |
| CPU | 多选用 Intel Xeon 或 AMD EPYC 处理器,核心数 32-64 核,满足 GPU 任务调度需求。 |
| 内存与存储 | 系统内存 1TB+(如 DDR4/ECC),存储采用 NVMe SSD(读写速度 7000MB/s+)或分布式存储,应对海量数据读取。 |
| 网络配置 | 标配 100Gbps 高速网卡,部分数据中心支持 200G/400G 网络,降低多 GPU 节点间通信延迟(如贵州 BGP 多线接入,延迟<20ms)。 |
| 散热与供电 | 采用液冷(如浸没式液冷,PUE<1.1)或风冷 + 热管散热,单机柜功率 20-40kW,依托贵州水电资源降低能耗成本。 |