英伟达NVIDIA各类型号显卡的ai算例表

发表日期:2025-02-26 13:49:20 | 来源: | | 浏览(44) 分类:AI大模型

本表格按 双精度算力(FP64)从高到低排序。

显卡型号架构FP16 (半精度)FP32 (单精度)FP64 (双精度)INT8INT4显存CUDA 核心数发售时间发售价(人民币)
NVIDIA H100Hopper134 TFLOPS67 TFLOPS34 TFLOPS2000 TOPS4000 TOPS80 GB HBM314,5922022 Q3¥237,600+
NVIDIA A100Ampere312 TFLOPS19.5 TFLOPS9.7 TFLOPS624 TOPS1248 TOPS40/80 GB HBM26,9122020 Q2¥79,200+
NVIDIA V100Volta125 TFLOPS15.7 TFLOPS7.8 TFLOPS--16/32 GB HBM25,1202017 Q3¥57,600+
NVIDIA TITAN VVolta110 TFLOPS13.8 TFLOPS6.9 TFLOPS--12 GB HBM25,1202017 Q4¥21,593
NVIDIA RTX 6000 AdaAda Lovelace91.1 TFLOPS45.6 TFLOPS0.71 TFLOPS730 TOPS1460 TOPS48 GB GDDR618,1762022 Q4¥52,560
NVIDIA RTX 4090Ada Lovelace165 TFLOPS82.6 TFLOPS1.3 TFLOPS1322 TOPS2644 TOPS24 GB GDDR6X16,3842022 Q4¥11,513
NVIDIA RTX 4080Ada Lovelace97.4 TFLOPS48.7 TFLOPS0.76 TFLOPS779 TOPS1558 TOPS16 GB GDDR6X9,7282022 Q4¥8,633
NVIDIA RTX 3090 TiAmpere80 TFLOPS40 TFLOPS0.63 TFLOPS320 TOPS640 TOPS24 GB GDDR6X10,7522022 Q1¥14,393
NVIDIA RTX 3090Ampere72 TFLOPS36 TFLOPS0.56 TFLOPS285 TOPS570 TOPS24 GB GDDR6X10,4962020 Q3¥10,793
NVIDIA RTX 3080 TiAmpere68 TFLOPS34 TFLOPS0.53 TFLOPS272 TOPS544 TOPS12 GB GDDR6X10,2402021 Q2¥8,633
NVIDIA RTX 3080Ampere60 TFLOPS30 TFLOPS0.47 TFLOPS238 TOPS476 TOPS10/12 GB GDDR6X8,7042020 Q3¥5,033
NVIDIA RTX 3070 TiAmpere44 TFLOPS22 TFLOPS0.34 TFLOPS174 TOPS348 TOPS8 GB GDDR6X6,1442021 Q2¥4,313
NVIDIA RTX 3070Ampere40 TFLOPS20 TFLOPS0.31 TFLOPS163 TOPS326 TOPS8 GB GDDR65,8882020 Q4¥3,593
NVIDIA RTX 3060 TiAmpere32.4 TFLOPS16.2 TFLOPS0.25 TFLOPS129 TOPS258 TOPS8 GB GDDR64,8642020 Q4¥2,873
NVIDIA RTX 3060Ampere25.4 TFLOPS12.7 TFLOPS0.2 TFLOPS101 TOPS202 TOPS12 GB GDDR63,5842021 Q1¥2,369
NVIDIA RTX 2080 TiTuring26.8 TFLOPS13.4 TFLOPS0.42 TFLOPS107 TOPS214 TOPS11 GB GDDR64,3522018 Q3¥7,193
NVIDIA RTX 2080Turing20.2 TFLOPS10.1 TFLOPS0.32 TFLOPS81 TOPS162 TOPS8 GB GDDR62,9442018 Q3¥5,033
NVIDIA RTX 2070Turing15.8 TFLOPS7.9 TFLOPS0.25 TFLOPS63 TOPS126 TOPS8 GB GDDR62,3042018 Q4¥3,593
NVIDIA RTX 2060Turing13 TFLOPS6.5 TFLOPS0.2 TFLOPS52 TOPS104 TOPS6 GB GDDR61,9202019 Q1¥2,513
NVIDIA TITAN RTXTuring32.6 TFLOPS16.3 TFLOPS0.51 TFLOPS130 TOPS261 TOPS24 GB GDDR64,6082018 Q4¥17,993
NVIDIA GTX 1080 TiPascal22.6 TFLOPS11.3 TFLOPS0.35 TFLOPS--11 GB GDDR5X3,5842017 Q1¥5,033
NVIDIA GTX 1080Pascal17.8 TFLOPS8.9 TFLOPS0.28 TFLOPS--8 GB GDDR5X2,5602016 Q2¥4,313
NVIDIA GTX 1070Pascal13 TFLOPS6.5 TFLOPS0.2 TFLOPS--8 GB GDDR51,9202016 Q2¥2,729
NVIDIA GTX 1060Pascal8.8 TFLOPS4.4 TFLOPS0.14 TFLOPS--6 GB GDDR51,2802016 Q3¥1,793
NVIDIA TITAN XpPascal22.6 TFLOPS11.3 TFLOPS0.35 TFLOPS--12 GB GDDR5X3,8402017 Q1¥8,640
NVIDIA TITAN XPascal22.6 TFLOPS11.3 TFLOPS0.35 TFLOPS--12 GB GDDR5X3,5842016 Q2¥8,640
NVIDIA GTX 980 TiMaxwell11.3 TFLOPS5.6 TFLOPS0.18 TFLOPS--6 GB GDDR52,8162015 Q2¥4,673
NVIDIA GTX 980Maxwell9.2 TFLOPS4.6 TFLOPS0.14 TFLOPS--4 GB GDDR52,0482014 Q3¥3,953
NVIDIA GTX 970Maxwell7.0 TFLOPS3.5 TFLOPS0.11 TFLOPS--4 GB GDDR51,6642014 Q3¥2,369
NVIDIA GTX 960Maxwell4.6 TFLOPS2.3 TFLOPS0.07 TFLOPS--2/4 GB GDDR51,0242015 Q1¥1,433
NVIDIA GTX 750 TiMaxwell2.2 TFLOPS1.1 TFLOPS0.03 TFLOPS--2 GB GDDR56402014 Q1¥1,073

### **关键说明**

1. **FP16/FP32/FP64**:分别表示半精度、单精度和双精度浮点算力,单位为 TFLOPS。  

2. **INT8/INT4**:表示整数精度算力,单位为 TOPS(每秒万亿次操作)。  

3. **显存**:显存容量越大,支持的数据集和模型规模越大。  

4. **CUDA 核心数**:CUDA 核心越多,显卡的并行计算能力越强。  

5. **发售价**:按 **1 美元 ≈ 7.2 人民币** 换算,实际价格可能因市场供需波动。  

---

### **精度说明**

1.FP32(单精度):通用计算精度,适用于大多数科学计算和深度学习任务。

2.FP64(双精度):高精度计算,适用于科学模拟和金融计算。

3.FP16(半精度):低精度计算,适用于深度学习训练和推理,性能更高。

4.INT8:整数精度,适用于 AI 推理任务,性能显著提升。

5.INT4:超低精度,适用于特定 AI 推理任务,性能进一步提升。


### **总结**

高性能计算:NVIDIA H100、A100 和 V100 是顶级选择,适合大规模 AI 训练和科学计算。  

游戏与 AI:RTX 4090、RTX 3090 Ti 和 RTX 3080 Ti 提供极高的性能,适合高端用户。  

性价比:RTX 3060 Ti 和 RTX 3060 是预算有限用户的最佳选择,性能足够应对大多数任务。 

物尽其用 :可以看到专业级显卡针对双精度优化,消费级显卡针对半精度、单精度优化,以4090为例在单精度fp32及半精度fp16运算中速度远快于专业卡H100等。因此在一些量化模型中,如果显存够用,4090性能甚至强于单卡H100。

集速网 copyRight © 2015-2022 宁ICP备15000399号-1 宁公网安备 64010402001209号
与其临渊羡鱼,不如退而结网
欢迎转载、分享、引用、推荐、收藏。