GPU运算卡

首页 GPU运算卡

NVIDIA A100

加速当今时代的重要工作
NVIDIA A100 Tensor Core GPU 可针对 AI、数据分析和 HPC 应用场景,在不同规模下实现出色的加速,有效助力全球高性能弹性数据中心。NVIDIA A100 由 NVIDIA Ampere 架构提供支持,提供 40GB 和 80GB 两种配置。作为 NVIDIA 数据中心平台的引擎,A100 的性能比上一代产品提升高达 20 倍,并可划分为七个 GPU 实例,以根据变化的需求进行动态调整。A100 80GB 将 GPU 内存增加了一倍,提供超快速的内存带宽(每秒超过 2TB),可处理超大模型和非常庞大的数据集。

强大的端到端 AI 和 HPC 数据中心平台
A100 是完整 NVIDIA 数据中心解决方案的一部分,该解决方案结合了跨硬件、网络、软件、库以及 NGC™ 的经过优化的 AI 模型和应用程序的构建块。 它代表了强大的数据中心端到端 AI 和 HPC 平台,使研究人员可以提供真实的结果并将解决方案大规模部署到生产中。

规格

 

 适用于 NVLink 的
NVIDIA A100
适用于 PCIe 的
NVIDIA A100
FP64 峰值性能9.7 TF9.7 TF
FP64 Tensor Core 峰值性能19.5 TF19.5 TF
FP32 峰值性能19.5 TF19.5 TF
FP32 Tensor Core 峰值性能156 TF | 312 TF*156 TF | 312 TF*
BFLOAT16 Tensor Core 峰值性能312 TF | 624 TF*312 TF | 624 TF*
FP16 Tensor Core 峰值性能312 TF | 624 TF*312 TF | 624 TF*
INT8 Tensor Core 峰值性能624 TOPS | 1,248 TOPS*624 TOPS | 1,248 TOPS*
INT4 Tensor Core 峰值性能1,248 TOPS | 2,496 TOPS*1,248 TOPS | 2,496 TOPS*
GPU 内存40GB80GB40GB
GPU 内存带宽1,555 GB/s2,039 GB/s1,555 GB/s
互联NVIDIA NVLink 600 GB/s**
PCIe Gen4 64 GB/s
NVIDIA NVLink 600 GB/s**
PCIe Gen4 64 GB/s
多实例 GPU各种实例大小(最大为 7 MIG @10 GB)各种实例大小(最大为 7 MIG @5 GB)
外形规格NVIDIA HGX A100 上可选 4 或 8 个 SXMPCIe
最大 TDP 功耗400 W400 W250 W