H100 910B(910C 参数= 910B*2)
计算单元 SM 132个/GPU AICore 24个/NPU
矩阵 

Tensor Core 4个

1个AICore 1个AIC(Cube核)

向量

Cuda Core 128个

1个AICore 2个AIV(vector核)
算力(FP16 稠密) 989 TFLOPS 376  TFLOPS
存储单元显存 80GB 64GB
片上缓存 256KB L1/SRAM 248KB UB
显存带宽 3.35TB/S 1.4TB/S
高速互联 900GB Nvlink 392GB HCCS

1.超节点

GB300 NVL72

B300出1.8TB双向带宽,Nvswitch单芯片容量28.8Tb,整机57.6Tb(性能对标博通TH5),交换芯片容量计算逻辑 1.8/2*8/18*72 = 28.8  Tb。

昇腾910C 

Level 1下互联是8个910C的芯片,16个DIE。 上图展示有点问题,实际一个Node的Level1里是一个交换芯片的7个虚拟平面,不是7个交换芯片。每个平面接单独的交换机组,有点类似B300 CX8的RoCE组网多平面架构。 UB交换芯片Level1使用量0.392*2/2*8*2=6.272 Tb/s, Level2 交换芯片使用量0.056/2*8*48=10.752Tb/s,芯片性能对标博通TH3.

Logo

鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。

更多推荐