NVIDIA NVLINK SXM2 V100/V100s/A100
规格 A100 40GB PCIeA100 80GB PCIeA100 40GB SXMA100 80GB SXMFP649.7 TFLOPSFP64 Tensor Core19.5 TFLOPSFP3219.5 TFLOPSTensor Float 32 (TF32)156 TFLOPS | 312 TFLOPS*BFLOAT16 Tensor Core312 TFLOPS | 624 TFLO
- 参数：
规格
| A100 40GB PCIe | A100 80GB PCIe | A100 40GB SXM | A100 80GB SXM | |
|---|---|---|---|---|
| FP64 | 9.7 TFLOPS | |||
| FP64 Tensor Core | 19.5 TFLOPS | |||
| FP32 | 19.5 TFLOPS | |||
| Tensor Float 32 (TF32) | 156 TFLOPS | 312 TFLOPS* | |||
| BFLOAT16 Tensor Core | 312 TFLOPS | 624 TFLOPS* | |||
| FP16 Tensor Core | 312 TFLOPS | 624 TFLOPS* | |||
| INT8 Tensor Core | 624 TOPS | 1248 TOPS* | |||
| GPU 显存 | 40GB HBM2 | 80GB HBM2e | 40GB HBM2 | 80GB HBM2e |
| GPU 显存带宽 | 1,555GB/s | 1,935GB/s | 1,555GB/s | 2,039GB/s |
| 最大热设计功耗 (TDP) | 250W | 300W | 400W | 400W |
| 多实例 GPU | 最大为 7 MIG @ 5GB | 最大为 7 MIG @ 10GB | 最大为 7 MIG @ 5GB | 最大为 7 MIG @ 10GB |
| 外形规格 | PCIe | SXM | ||
| 互联 | NVIDIA® NVLink® 桥接器（可桥接 2 个 GPU）：600GB/s ** PCIe 4.0：64GB/s | NVLink: 600GB/s PCIe Gen4: 64GB/s | ||
| 服务器选项 | 合作伙伴及配备 1 至 8 个 GPU 的 NVIDIA 认证系统™ | NVIDIA HGX™ A100 合作伙伴和配备 4、8 或 16 个 GPU 的 NVIDIA 认证系统 配备 8 个 GPU 的 NVIDIA DGX™ A100 | ||
* 采用稀疏技术
** 通过 HGX A100 服务器主板连接提供 SXM4 GPU，通过 NVLink 桥接器提供 PCIe GPU（最多桥接 2 个 GPU）
规格
| A100 40GB PCIe | A100 80GB PCIe | A100 40GB SXM | A100 80GB SXM | |
|---|---|---|---|---|
| FP64 | 9.7 TFLOPS | |||
| FP64 Tensor Core | 19.5 TFLOPS | |||
| FP32 | 19.5 TFLOPS | |||
| Tensor Float 32 (TF32) | 156 TFLOPS | 312 TFLOPS* | |||
| BFLOAT16 Tensor Core | 312 TFLOPS | 624 TFLOPS* | |||
| FP16 Tensor Core | 312 TFLOPS | 624 TFLOPS* | |||
| INT8 Tensor Core | 624 TOPS | 1248 TOPS* | |||
| GPU 显存 | 40GB HBM2 | 80GB HBM2e | 40GB HBM2 | 80GB HBM2e |
| GPU 显存带宽 | 1,555GB/s | 1,935GB/s | 1,555GB/s | 2,039GB/s |
| 最大热设计功耗 (TDP) | 250W | 300W | 400W | 400W |
| 多实例 GPU | 最大为 7 MIG @ 5GB | 最大为 7 MIG @ 10GB | 最大为 7 MIG @ 5GB | 最大为 7 MIG @ 10GB |
| 外形规格 | PCIe | SXM | ||
| 互联 | NVIDIA® NVLink® 桥接器（可桥接 2 个 GPU）：600GB/s ** PCIe 4.0：64GB/s | NVLink: 600GB/s PCIe Gen4: 64GB/s | ||
| 服务器选项 | 合作伙伴及配备 1 至 8 个 GPU 的 NVIDIA 认证系统™ | NVIDIA HGX™ A100 合作伙伴和配备 4、8 或 16 个 GPU 的 NVIDIA 认证系统 配备 8 个 GPU 的 NVIDIA DGX™ A100 | ||
* 采用稀疏技术
** 通过 HGX A100 服务器主板连接提供 SXM4 GPU，通过 NVLink 桥接器提供 PCIe GPU（最多桥接 2 个 GPU）