NVIDIA H100 PCIe 模块是 NVIDIA 公司推出的一款高性能计算(HPC)和人工智能(AI)加速卡。它基于 NVIDIA Hopper™ 架构,旨在为各种计算密集型工作负载提供卓越的性能、可扩展性和安全性。
产品参数和规格
- GPU:NVIDIA H100 Tensor Core GPU
- 架构:NVIDIA Hopper™
- Tensor 核心:第四代 Tensor 核心
- Transformer 引擎:专用 Transformer 引擎
- FP64 性能:30 TFLOPS
- FP64 Tensor Core 性能:60 TFLOPS
- FP32 性能:60 TFLOPS
- TF32 Tensor Core 性能:1000 TFLOPS*
- BFLOAT16 Tensor Core 性能:2000 TFLOPS*
- FP16 Tensor Core 性能:2000 TFLOPS*
- FP8 Tensor Core 性能:4000 TFLOPS*
- INT8 Tensor Core 性能:4000 TOPS*
- GPU 显存:80GB HBM2e
- GPU 显存带宽:2TB/s
- 解码器:7 NVDEC, 7 JPEG
- 最大热设计功耗 (TDP):350W
- 外形规格:PCIe
- 接口:PCIe 5.0 x16
- 互连技术:PCIe 5.0:128GB/s