国产大模型公司千卡 NVIDIA 推理集群生产交付
大模型公司 NVIDIA 千卡推理生产集群
基于 Coding 推理服务，对比传统 ROFT 网络架构，验证 ZCube 通过扁平化组网和更均衡网络通信释放推理有效算力。
15%
GPU 平均推理吞吐提升
40.6%
首 Token 时延（TTFT）P99 降低
33%
网络硬件成本减少
客户案例
训练场国产 GPU 推理集群
在国产智算生态中，对比 ZCube 与传统 Clos 架构在集合通信、训练和推理维度的表现。
训练场国产 GPU 推理集群独立验证
项目信息
项目概览
项目环境、业务场景和验证方式。
- 客户类型
- 训练场
- 项目阶段
- 独立验证
- 硬件生态
- 国产 GPU 推理集群
- 业务场景
- 推理与集合通信测试
- 对比基线
- 传统 Clos 架构
- 案例类型
- 量化验证型案例
背景与挑战
项目背景
国产算力集群需要同时解决高并发推理中的拥塞、响应时延和网络硬件投入问题，并形成可复制的规模化部署路径。
验证或交付方式
- 在相同国产 GPU 环境下开展 ZCube 与传统 Clos 对比验证
- 分别覆盖集合通信、训练和推理场景
- 独立记录 All-to-All 吞吐、TTFT P99、推理吞吐和网络投入
验证结果
验证结果
以下指标来自本案例的国产 GPU 环境与对应测试场景，不与其他项目数据合并比较。
14.5%
All-to-All 吞吐提升
集合通信场景下的最高吞吐优势。
22%–30%
TTFT P99 降低
国产 GPU 推理测试中的响应时延改善范围。
7%–10%
推理吞吐提升
国产 GPU 推理场景的独立测试结果。
33%
资本支出减少
扁平化组网减少网络硬件投入。
价值总结
案例价值
ZCube 在国产卡推理测试的吞吐和响应时延等核心指标上优于传统 Clos 架构，为国产算力集群的规模化部署提供技术参考。
- 验证 ZCube 对国产 GPU 生态的适配能力
- 同时覆盖集合通信、训练和推理等关键维度
- 为国产算力集群规模化建设提供独立验证依据
从网络开始
让下一座智算中心，从网络开始更高效
围绕新建集群、存量改造、性能调优或智能运维，与我们一起评估网络如何释放更多有效算力。