NVIDIA NVLINK SXM2 V100/V100s/A100
规格 A100 40GB PCIeA100 80GB PCIeA100 40GB SXMA100 80GB SXMFP649.7 TFLOPSFP64 Tensor Core19.5 TFLOPSFP3219.5 TFLOPSTensor Float 32 (TF32)156 TFLOPS | 312 TFLOPS*BFLOAT16 Tensor Core312 TFLOPS | 624 TFLO
- 参数:
规格 A100 40GB PCIeA100 80GB PCIeA100 40GB SXMA100 80GB SXMFP649.7 TFLOPSFP64 Tensor Core19.5 TFLOPSFP3219.5 TFLOPSTensor Float 32 (TF32)156 TFLOPS | 312 TFLOPS*BFLOAT16 Tensor Core312 TFLOPS | 624 TFLO
A100 40GB PCIe | A100 80GB PCIe | A100 40GB SXM | A100 80GB SXM | |
---|---|---|---|---|
FP64 | 9.7 TFLOPS | |||
FP64 Tensor Core | 19.5 TFLOPS | |||
FP32 | 19.5 TFLOPS | |||
Tensor Float 32 (TF32) | 156 TFLOPS | 312 TFLOPS* | |||
BFLOAT16 Tensor Core | 312 TFLOPS | 624 TFLOPS* | |||
FP16 Tensor Core | 312 TFLOPS | 624 TFLOPS* | |||
INT8 Tensor Core | 624 TOPS | 1248 TOPS* | |||
GPU 显存 | 40GB HBM2 | 80GB HBM2e | 40GB HBM2 | 80GB HBM2e |
GPU 显存带宽 | 1,555GB/s | 1,935GB/s | 1,555GB/s | 2,039GB/s |
最大热设计功耗 (TDP) | 250W | 300W | 400W | 400W |
多实例 GPU | 最大为 7 MIG @ 5GB | 最大为 7 MIG @ 10GB | 最大为 7 MIG @ 5GB | 最大为 7 MIG @ 10GB |
外形规格 | PCIe | SXM | ||
互联 | NVIDIA® NVLink® 桥接器(可桥接 2 个 GPU):600GB/s ** PCIe 4.0:64GB/s | NVLink: 600GB/s PCIe Gen4: 64GB/s | ||
服务器选项 | 合作伙伴及配备 1 至 8 个 GPU 的 NVIDIA 认证系统™ | NVIDIA HGX™ A100 合作伙伴和配备 4、8 或 16 个 GPU 的 NVIDIA 认证系统 配备 8 个 GPU 的 NVIDIA DGX™ A100 |
* 采用稀疏技术
** 通过 HGX A100 服务器主板连接提供 SXM4 GPU,通过 NVLink 桥接器提供 PCIe GPU(最多桥接 2 个 GPU)
A100 40GB PCIe | A100 80GB PCIe | A100 40GB SXM | A100 80GB SXM | |
---|---|---|---|---|
FP64 | 9.7 TFLOPS | |||
FP64 Tensor Core | 19.5 TFLOPS | |||
FP32 | 19.5 TFLOPS | |||
Tensor Float 32 (TF32) | 156 TFLOPS | 312 TFLOPS* | |||
BFLOAT16 Tensor Core | 312 TFLOPS | 624 TFLOPS* | |||
FP16 Tensor Core | 312 TFLOPS | 624 TFLOPS* | |||
INT8 Tensor Core | 624 TOPS | 1248 TOPS* | |||
GPU 显存 | 40GB HBM2 | 80GB HBM2e | 40GB HBM2 | 80GB HBM2e |
GPU 显存带宽 | 1,555GB/s | 1,935GB/s | 1,555GB/s | 2,039GB/s |
最大热设计功耗 (TDP) | 250W | 300W | 400W | 400W |
多实例 GPU | 最大为 7 MIG @ 5GB | 最大为 7 MIG @ 10GB | 最大为 7 MIG @ 5GB | 最大为 7 MIG @ 10GB |
外形规格 | PCIe | SXM | ||
互联 | NVIDIA® NVLink® 桥接器(可桥接 2 个 GPU):600GB/s ** PCIe 4.0:64GB/s | NVLink: 600GB/s PCIe Gen4: 64GB/s | ||
服务器选项 | 合作伙伴及配备 1 至 8 个 GPU 的 NVIDIA 认证系统™ | NVIDIA HGX™ A100 合作伙伴和配备 4、8 或 16 个 GPU 的 NVIDIA 认证系统 配备 8 个 GPU 的 NVIDIA DGX™ A100 |
* 采用稀疏技术
** 通过 HGX A100 服务器主板连接提供 SXM4 GPU,通过 NVLink 桥接器提供 PCIe GPU(最多桥接 2 个 GPU)