常见GPU算力对比：RTX 4090与4090D的硬件参数与性能解析

常见GPU算力对比：RTX 4090与4090D的硬件参数与性能解析

引用

CSDN

1.

https://blog.csdn.net/qq_45351564/article/details/145413438

硬件参数

值得注意的是，完整的AD102核心包含12组GPC，每组GPC包含6组TPC，每个TPC中含有两个SM单元，因此完整的AD102核心共有144个SM单元。然而，AD102-300仅启用其中的128个SM单元，而AD102-250则只启用114个。每个SM单元中有128个CUDA计算单元，其中64个CUDA可以计算FP32或INT32，另外64个只能计算INT32。

每个SM单元中有4个Tensor Core，因此AD102-300总共含有512个Tensor Core，AD102-250总共含有456个Tensor Core。支持的数据类型包括FP8、FP16、BF16、TF32、INT8、INT4，但不支持FP64。对于FP16数据，每个Tensor Core每周期可以完成64次FMA（乘加）操作，相当于128个FP16 FLOPs；对于INT8数据，每个Tensor Core每周期能完成128次运算；对于INT4数据，每周期则能完成256次运算。启用稀疏计算（2:4模式）加速后，在神经网络权重中，强制每4个连续元素中至少2个为零，Tensor Core硬件自动跳过零值计算，有效吞吐量翻倍。

算力

CUDA Core 算力

Tensor Core 算力