H800详细配置

NVIDIA H800 GPU 概览

• 架构：基于 Hopper 架构设计

• 目标应用：专为加速 AI 和数据分析应用

• 核心特性：

• 第四代 Tensor Core

• Transformer 引擎

• 支持 FP8 精度

• 适合训练大型语言模型

• 多实例 GPU 技术：第二代 MIG 技术，支持虚拟环境中的多租户、多用户配置

• 安全性：NVIDIA 机密计算，保护数据和应用程序的机密信息和完整性

H800 主要规格

• FP64 性能：

• SXM 版本：1 TFLOP

• PCIe 版本：0.8 TFLOP

• FP32 性能：

• SXM 版本：67 TFLOPS

• PCIe 版本：51 TFLOPS

• TF32 Tensor Core 性能：

• SXM 版本：989 TFLOPS

• PCIe 版本：756 TFLOPS

• BFLOAT16 Tensor Core 性能：

• SXM 版本：1979 TFLOPS

• PCIe 版本：1513 TFLOPS

• FP16 Tensor Core 性能：

• SXM 版本：1979 TFLOPS

• PCIe 版本：1513 TFLOPS

• FP8 Tensor Core 性能：

• SXM 版本：3958 TFLOPS

• PCIe 版本：3026 TFLOPS

• INT8 Tensor Core 性能：

• SXM 版本：3958 TOPS

• PCIe 版本：3026 TOPS

• GPU 显存：80GB

• GPU 显存带宽：

• SXM 版本：3.35 TB/s

• PCIe 版本：2 TB/s

• 最大热设计功耗 (TDP)：

• SXM 版本：最高 700 瓦（可配置）

• PCIe 版本：300-350 瓦（可配置）

H800 其他特性

• MIG 实例支持：最多 7 个实例，每个实例 10GB 显存

• 软件订阅：5 年，包括企业级技术支持和 NVIDIA AI Enterprise 软件套件

与市场其他 NVIDIA GPU 比较

• Nvlink 最大总网络带宽：

• A100：600 GB/s

• A800：400 GB/s

• H100：900 GB/s

• H800：400 GB/s

H800 GPU 是为中国市场特供的低配版，与其他 NVIDIA GPU 相比，它在某些性能参数上有所降低，但仍然保持了强大的计算能力和高效的能源利用，适合中国市场的需求。

NVIDIA H800 Tensor Core GPU

• 架构: NVIDIA Hopper 架构

• 设计目标: 专为数据中心设计，用于加速 AI 和数据分析应用

• 核心组件:

• 第四代 Tensor Core

• Transformer 引擎

• 精度支持: 支持 FP8 精度，特别适合训练大型语言模型

• 多实例技术: 第二代多实例 GPU (MIG) 技术，支持虚拟环境中的多租户、多用户配置

• 特殊功能:

• DPX 指令加速动态规划算法，适用于疾病诊断、实时路线优化和图形分析

• 机密计算功能，保护数据和应用程序的机密信息和完整性

NVIDIA H800 PCIe 80 GB 显卡

• 发布日期: 2023年3月21日

• 架构与工艺: Hopper 架构和 4nm 工艺过程

• 目标用户: 主要面向玩家

• 显存规格:

• 80GB HBM2e 内存

• 5120 Bit 接口

• 带宽: 2,039 GB/s

• 接口与功耗:

• PCIe 5.0 x16 接口连接

• 需要一个额外的 1x 16-pin 电源电缆

• 最大功耗: 350 瓦

• 性能特性:

• 着色器处理器数量: 14,592 个

• Boost 模式频率: 1755 MHz

• 晶体管数量: 80 亿

• 内存性能:

• 类型: HBM2e

• 存储容量: 80GB

• 总线宽度: 5120 Bit

• 频率: 3.2 GB/s

通过这些特性，NVIDIA H800 系列 GPU旨在为数据中心和桌面用户提供高性能的计算能力，同时确保数据安全和高效的能源利用。无论是在AI训练、数据分析还是高端游戏应用中，H800 系列GPU服务器都能提供卓越的性能表现。