外形规格 | H100 SXM | H100 PCIe |
---|---|---|
FP64 | 34 teraFLOPS | 26 teraFLOPS |
FP64 Tensor Core | 67 teraFLOPS | 51 teraFLOPS |
FP32 | 67 teraFLOPS | 51 teraFLOPS |
TF32 Tensor Core | 989 teraFLOPS* | 756teraFLOPS* |
BFLOAT16 Tensor Core | 1979 teraFLOPS* | 1,513 teraFLOPS* |
FP16 Tensor Core | 1979 teraFLOPS* | 1,513 teraFLOPS* |
FP8 Tensor Core | 3958 teraFLOPS* | 3026 teraFLOPS* |
INT8 Tensor Core | 3958 TOPS* | 3026 TOPS* |
GPU 显存 | 80GB | 80GB |
GPU 显存带宽 | 3.35TB/s | 2TB/s |
解码器 | 7 NVDEC 7 JPEG | 7 NVDEC 7 JPEG |
最大热设计功率 (TDP) | 700W | 300-350 W |
多实例 GPU | 最多 7 个 MIG @每个 10GB | |
外形规格 | SXM | PCIe 双插槽风冷式 |
互连技术 | NVLink:900GB/s PCIe 5.0:128GB/s | NVLink:600GB/s PCIe 5.0:128GB/s |
服务器选项 | NVIDIA HGX™ H100 合作伙伴和配备 4 或 8 个 GPU 的 NVIDIA 认证系统™ ,配备 8 个 GPU 的 NVIDIA DGX™ H100 | 搭载 1 至 8 个 GPU 的合作伙伴系统及 NVIDIA 认证系统 |
NVIDIA AI Enterprise | 附加组件 | 已包含 |