KR6288V1 NVLink AI 服务器具有适合超大规模数据中心的高性能、兼容性和扩展能力。它是首款支持 2 个第 3 代服务器的服务器英特尔至强可扩展处理器和 8 个配备 NVSwitch 互连的英伟达 500W A100 GPU。
KR6288V1 是业界首款支持 500W A100 GPU 的风冷服务器。它最多可支持 12 个 PCIe 扩展卡、双通道 N20X、NV DPU 和其他智能网卡。结合 AIStation 资源调度平台,它可以释放出最高 5 petaFLOPS 的计算性能。
领先技术
2 个英特尔至强可扩展处理器,采用 10 纳米工艺
8 个 NVIDIA A100 GPU,600GB/秒带宽 NVSwitch 完全互联
支持多实例 GPU (MIG),大大提高 GPU 资源利用率
多达 10 个 200G HDR InfiniBand,高速互连扩展
稳定性 & 可靠性
支持硬/软 RAID 方案,确保数据安全
N+N 冗余电源,确保系统可靠运行
优化散热设计,支持在高温环境下稳定工作
智能远程管理,快速定位故障
优化设计
业界唯一支持 500W A100 GPU 的风冷技术
高性能比,GPU:计算 IB:存储 IB=8:8:2
模块化设计,操作灵活,易于操作和维护
领先支持 N20X、NV-DPU、A/T 客户智能网卡
综合生态系统
综合生态系统
广泛而成熟的 x86+CUDA 全球开发生态
支持领先的深度学习框架,如 TensorFlow/PyTorch/飞桨等。
有效支持大规模 CV/NLP/NMT/DLRM 模型训练和推理
轻松连接元 1.0 生态系统合作伙伴,提供丰富的行业人工智能解决方案