英伟达 H100 PCIe 是一款专为加速人工智能 (AI) 计算而设计的高性能图形处理器 (GPU)。它搭载了英伟达 Hopper 架构,拥有强大的计算能力和高带宽内存,适用于大规模语言模型训练、自然语言处理、计算机视觉等 AI 密集型任务。H100 PCIe 通过 PCIe 接口连接到服务器,提供灵活的部署方式。
产品参数及规格:
- 芯片架构: Hopper
- CUDA 核心数: 7296
- Tensor Cores: 228
- 显存: 80GB HBM3e
- 显存带宽: 2TB/s
- 接口: PCIe 5.0 x16
- 功耗: 350W
- 其他特性:
- 支持 NVLink 互联,可实现多 GPU 加速
支持 Transformer 引擎,加速大型语言模型训练
- 支持多实例 GPU (MIG),提高 GPU 利用率
- 支持虚拟化,适用于云计算环境