什么是GPU？图形处理器完整指南（2026）

什么是GPU？30秒解答

**GPU（图形处理器）**是一种专门设计用于同时执行数千次数学运算的处理器。虽然它最初是为在屏幕上渲染像素而发明的，但GPU已经发展成为人工智能、科学研究、自动驾驶汽车等领域背后的计算引擎。

理解CPU和GPU之间区别最简单的方式是这样的。把它想象成一个管弦乐队。CPU是指挥——技艺高超，协调复杂的编排，阅读完整的乐谱，管理节奏变化，并实时做出高层决策。但指挥不演奏任何乐器。现在想象一下16,000名乐手，每人在恰当的时刻演奏一个简单的音符。单独来看，每个音符都微不足道。但合在一起，他们产生了一曲计算的交响乐——数十亿次计算编织成一个连贯的结果。这就是GPU。

这很重要，因为我们这个时代的标志性技术——大语言模型、实时光线追踪、药物发现模拟、气候建模——都有一个共同特征：它们需要同时执行大量简单、重复的数学运算。CPU从来就不是为此而设计的。GPU才是。

数据说明了一切。2025年全球GPU市场价值为$1015亿，预计到2035年将达到$1.7万亿，年复合增长率为32.6%（Precedence Research）。GPU已经从游戏PC内的小众组件发展成为AI经济的基础设施。

GPU的实际工作原理：并行处理详解

要理解GPU，您需要了解并行处理——以及它与CPU的工作方式有何根本不同。

CPU按顺序执行任务。它拥有少量极为强大的核心（桌面芯片通常为8-24个），每个核心都能处理复杂的分支逻辑。它的设计目标是多功能性：运行操作系统、管理文件I/O、执行条件代码路径。CPU核心就像一位专家工程师，能解决任何类型的问题，但一次只能解决一个问题。

GPU采取相反的方法。它集成了数千个简单核心，每个核心处理更大问题的一小部分——全部同时进行。这就是并行处理。不是一个专家解决一个问题，而是数千个工人同时解决一个拼图的各个部分。

CUDA核心

NVIDIA GPU的主力是CUDA核心（统一计算设备架构）。每个CUDA核心是一个简单的处理器，能在每个时钟周期执行一次浮点或整数运算。使它们强大的是数量。NVIDIA H100——现代AI基础设施的主力——拥有16,896个CUDA核心。消费级RTX 4090有16,384个。当渲染帧或训练神经网络等任务可以分割成数千个独立子任务时，所有核心同时启动。

Tensor核心

Volta架构于2017年推出的Tensor核心是专门为矩阵乘法和累加设计的单元——这是每个神经网络核心的数学运算。CUDA核心一次处理一个数字，而Tensor核心在单次运算中处理整个小矩阵（例如4x4块）。H100包含528个Tensor核心，每个都能进行混合精度计算（FP8、FP16、TF32），极大地加速了AI训练和推理。

这就是GPU主导AI的原因：神经网络从根本上来说就是大量的矩阵乘法序列。Transformer模型——GPT-4、Claude和Gemini背后的架构——的每一层都将输入矩阵与权重矩阵相乘。这种运算是高度可并行的，意味着它可以在数千个处理器之间分割，几乎没有协调开销。GPU架构映射到这种工作负载就像锁与钥匙一样精确。

RT核心

光线追踪核心处理光的物理特性——追踪数百万条单独光线在虚拟场景中的弹跳、折射和散射路径。2018年随Turing架构推出的RT核心将这一计算密集型任务从CUDA核心中卸载，使游戏和专业可视化中的实时照片级渲染成为可能。

CUDA核心、Tensor核心和RT核心共同构成了一个三位一体的架构，使现代GPU足够通用，可以在单个芯片上处理游戏、AI和科学计算。

GPU时间线：从像素到千万亿次浮点运算（1999-2026）

GPU从图形外设到计算领域最重要芯片的转变仅用了27年。

• 1999年 — NVIDIA发布GeForce 256并创造了”GPU”一词。这是第一款在显卡上处理变换和光照计算的芯片，将工作从CPU上卸载。

• 2006年 — NVIDIA推出CUDA，一个允许开发者为GPU编写通用代码的编程框架。这一决定将GPU从纯图形芯片转变为并行计算平台。

• 2012年 — Alex Krizhevsky的AlexNet以历史性的优势赢得ImageNet竞赛，使用两块NVIDIA GTX 580 GPU训练深度卷积神经网络。深度学习革命由此开始。

• 2016年 — 黄仁勋亲自将第一台DGX-1系统交付给OpenAI。该系统包含八块P100 GPU和170 teraflops的算力——这是GPU在AI研究中核心地位的早期信号。

• 2017年 — Volta架构引入了Tensor核心，专为矩阵运算设计的硅片。AI训练性能大幅提升。

• 2020年 — **A100（Ampere）**发布，搭载第3代Tensor核心，支持TF32和FP64格式，加速AI和科学计算。它成为全球数据中心的标准GPU。

• 2022年 — 以太坊转向权益证明，有效地终结了GPU挖矿时代。数百万块GPU涌入二手市场，而NVIDIA果断转向AI数据中心收入。

• 2024年 — Blackwell架构到来，拥有2080亿个晶体管、第2代Transformer引擎和FP4精度支持。B200 GPU的AI训练性能是H100的4倍。

• 2025年 — NVIDIA成为历史上第一家市值突破$4万亿的公司，受到无尽的AI基础设施需求推动。

• 2026年 — NVIDIA发布Rubin架构 — 3360亿个晶体管、50 PFLOPS的FP4推理能力和HBM4内存。GPU计算的新时代开始了。

GPU与CPU：核心差异

GPU和CPU不是竞争对手——它们是互补的。理解它们的差异有助于您为每个工作负载选择正确的工具。

关键洞察：CPU优化延迟（尽快完成一个任务），而GPU优化吞吐量（每秒完成尽可能多的任务）。

如需深入了解GPU与CPU的性能、基准测试和成本分析，请阅读我们的GPU与CPU完整对比。

GPU类型：消费级、数据中心和移动端

并非所有GPU都相同。它们涵盖了广泛的外形尺寸、功耗预算和价格区间。

集成显卡与独立显卡

集成GPU内置于CPU芯片中，与系统共享主内存。Intel UHD和AMD Radeon集成显卡属于此类。它们功耗极低，可处理日常任务——视频播放、轻度图片编辑、桌面合成——但缺乏处理高负载工作的原始计算能力。

独立GPU是拥有自己专用显存、供电和散热的独立芯片。它们提供显著更高的性能，是高画质游戏、专业3D工作以及任何AI或计算任务所必需的。

消费级GPU

NVIDIA GeForce RTX系列（RTX 4060到RTX 5090）和AMD Radeon RX系列（RX 7600到RX 9070 XT）面向游戏玩家和内容创作者。价格从$250到$2,000+不等。这些GPU具有高时钟频率、GDDR6X内存以及针对游戏和创意软件优化的驱动程序。

数据中心GPU

NVIDIA H100、A100、L40S和AMD MI300X专为人工智能、高性能计算（HPC）和大规模推理而设计。它们具有海量显存（80-192 GB）、超高速HBM内存、NVLink互连和纠错内存。单个H100 SXM模块功耗高达700W，价格为$25,000-$40,000。

移动端GPU和NPU

智能手机和笔记本电脑使用移动端GPU，如Qualcomm Adreno和M系列及A系列芯片中的Apple GPU核心。越来越多的设备还包含专用的NPU（神经处理单元），针对设备端AI任务进行了优化——图像识别、语音处理和实时翻译——功耗仅为独立GPU的一小部分。

GPU与显卡的区别

一个常见的混淆点：GPU是硅芯片本身。显卡是完整的组件——GPU芯片、显存模块、散热方案、供电电路和PCB——插入您的主板。当有人说”我买了一块GPU”时，他们几乎总是指完整的显卡。

GPU的用途？游戏之外的8大行业

游戏建立了GPU产业，但今天它只代表GPU功能的一小部分。以下是GPU计算现在不可或缺的八个行业。

1. AI与机器学习。 GPU为GPT-4和Claude等大语言模型、Stable Diffusion等图像生成器，以及驱动Netflix和Spotify的推荐系统背后的训练和推理提供动力。训练一个前沿LLM需要数万块GPU运行数月。没有GPU的并行性，现代AI根本不可能存在。

2. 医疗健康。 GPU加速的MRI和CT扫描分析正在将诊断时间从数小时缩短到数分钟。在药物研究中，在GPU集群上运行的分子动力学模拟正在压缩药物发现时间线。NVIDIA的BioNeMo框架已部署在各大制药公司，加速蛋白质结构预测和生成化学。

3. 气候科学。 JUPITER超级计算机是有史以来最强大的系统之一，在GPU集群上运行千米级全球气候模拟。天气预报模型现在实现的10天预报精度，在十年前需要一个月才能计算出来。GPU加速的气候建模正在改变政府和机构应对环境变化的方式。

4. 自动驾驶汽车。 Stellantis、Mercedes-Benz、Volvo和Lucid Motors使用NVIDIA DRIVE平台进行实时感知、高清地图和自主决策。每辆自动驾驶汽车必须同时处理来自摄像头、LiDAR、雷达和超声波传感器的数据——这是一个为GPU量身定制的并行处理挑战。

5. 数字孪生。 Siemens和NVIDIA Omniverse使公司能够构建物理运营的AI驱动虚拟副本。PepsiCo优化供应链物流，Foxconn模拟工厂车间布局，HD Hyundai建模船厂运营——全部作为GPU驱动的数字孪生体，在现实决策之前预测结果。

6. 核聚变能源。 Commonwealth Fusion Systems使用GPU加速的数字孪生来模拟托卡马克反应堆内部的等离子体行为。聚变反应堆产生比太阳核心更热的条件，使物理实验既危险又昂贵。GPU模拟使工程师能够以其他方式不可能的速度迭代反应堆设计。

7. 金融。 主要银行和对冲基金在GPU集群上运行实时欺诈检测、蒙特卡罗风险模拟和算法交易策略。评估数百万市场情景的蒙特卡罗模拟从GPU并行性中受益巨大——CPU集群可能需要数小时才能完成的工作，在多GPU节点上几秒即可完成。

8. 内容创作。 好莱坞视效工作室、建筑可视化公司和游戏开发者依赖GPU进行渲染、合成和实时虚拟制作。Unreal Engine与高端GPU的结合使虚拟制作舞台（《曼达洛人》背后的技术）在整个娱乐行业取代了传统的绿幕工作流程。

GPU规格解读：初学者速查手册

GPU规格表可能令人望而生畏。以下是每个数字的实际含义——以及为什么它很重要。

VRAM（视频随机存取存储器） — GPU的短期记忆。VRAM决定了AI模型可以多大，或者有多少高分辨率纹理可以同时存放在显卡上。H100拥有80 GB的HBM3 — 足以将700亿参数的模型完整放入内存。如果您的模型无法放入VRAM，性能将急剧下降或训练直接失败。

内存带宽 — 数据在GPU和其内存之间流动的速度。H100达到3.35 TB/s。将VRAM容量想象为仓库的大小，带宽想象为连接仓库与工厂车间的公路宽度。一个巨大的仓库如果出口只有一条车道就毫无意义。高带宽确保GPU的核心持续获得数据供给。

Tensor核心 — 专为驱动神经网络的运算而构建的矩阵数学单元。它们执行混合精度计算（FP8、FP16、TF32），比通用CUDA核心快得多。当AI基准测试引用GPU的”AI TOPS”（每秒万亿次运算）时，它衡量的是Tensor核心的吞吐量。

互连（NVLink和InfiniBand） — 允许多个GPU在分布式训练期间共享数据的通信架构。训练一个大语言模型需要256到32,000+个GPU协同工作。H100上的NVLink 4.0在GPU对之间提供900 GB/s的双向带宽，而InfiniBand网络连接集群中的各个节点。没有快速互连，多GPU训练的瓶颈将在通信而非计算上。

数据中心GPU对比（2026）

GPU格局：2026年的NVIDIA、AMD和Intel

三家公司定义了2026年的GPU市场，但竞争态势远非势均力敌。

NVIDIA：主导力量

NVIDIA掌控着92%的独立GPU市场，在AI数据中心GPU中的份额更高。公司的路线图——Blackwell（2024）→ Rubin（2026）→ Feynman（2027+）——为整个行业定下节奏。仅2026财年第三季度，NVIDIA的数据中心业务就创造了**$307.7亿的收入**。2025年，NVIDIA成为历史上第一家市值超过$4万亿的公司。其CUDA软件生态系统已有近20年历史，形成了深厚的护城河：数百万开发者、数千个优化库，以及建立在NVIDIA平台上的完整AI工具链。

AMD：崛起的挑战者

AMD的MI300X已成为AI推理工作负载的可靠替代方案，尤其受到注重成本的云提供商的青睐。即将推出的MI350X承诺性能比MI300X提升4倍，而MI400计划于2026年发布。AMD的ROCm软件栈有了显著改善，但在库的广度和社区采用度上仍落后于CUDA。对于寻求有竞争力的价格和多供应商灵活性的客户来说，AMD是一个越来越可行的选择。

Intel：加入竞赛

Intel的Gaudi 3 AI加速器在特定推理工作负载中正在获得关注，Falcon Shores平台旨在将GPU和AI计算能力统一到单一架构中。与NVIDIA和AMD相比，Intel的市场份额仍然很小，但其积极的定价策略和与自身晶圆代工服务的整合使其成为成本敏感领域的潜在颠覆者。

一个引人注目的统计数据：超过75%的财富500强公司现在以某种形式使用NVIDIA GPU基础设施——这证明了GPU已经多么深入地渗透到企业计算中。

GPU、TPU还是NPU：您需要哪种AI芯片？

GPU并非唯一的AI加速器。Google的TPU和日益增长的NPU类别各有独特优势。

GPU（图形处理器） — 通用并行处理器。GPU在AI训练、混合工作负载和任何需要灵活性的任务中表现出色。CUDA和ROCm生态系统支持PyTorch、TensorFlow、JAX以及几乎所有AI框架。GPU是大多数AI团队的默认选择，因为它们的通用性和软件栈的成熟度。

TPU（张量处理器） — Google定制设计的芯片，围绕为矩阵运算优化的脉动阵列构建。TPU在大批量推理和原生TensorFlow工作负载上表现出色，特别是在Google Cloud上。然而，它们是Google Cloud Platform独占的，这限制了需要多云或本地部署的团队的灵活性。

NPU（神经处理器） — 专门为设备端AI推理构建的硅片。NPU在语音识别、图像分类和实时翻译等边缘任务上比GPU的能效高40-60倍。您可以在智能手机（Apple Neural Engine、Qualcomm Hexagon）、笔记本电脑（Intel AI Boost、AMD XDNA）和IoT设备中找到它们。它们不是为训练设计的——它们是为边缘端快速、低功耗推理设计的。

决策框架

对于大多数团队来说，GPU仍然是最安全和最通用的选择。TPU在Google Cloud生态系统中有意义，而NPU对于功耗效率至关重要的边缘部署是必不可少的。

如何获取GPU：购买、租赁还是云端

2026年获取GPU算力通常有三种路径，各有不同的权衡。

购买硬件

单块NVIDIA H100零售价为**$25,000-$40,000** — 而且在持续的供应紧张下，前提是您能找到。构建多GPU服务器会增加CPU、内存、网络、供电、散热和机架空间的成本。只有当您计划以高利用率（超过60%）全天候运行GPU数年时，购买才具有经济意义。对于具有可预测、持续工作负载的研究实验室和大型企业来说，拥有硬件可以提供最低的总成本。

主要云提供商

AWS（p5实例）、Google Cloud（A3实例）和Microsoft Azure（ND H100系列）都提供具有企业级可靠性、全球可用性以及集成存储和网络的GPU实例。代价是复杂性：云GPU定价因区域、承诺级别和实例类型而异。预留实例需要1-3年的承诺，而按需定价可能是竞价实例费率的两到三倍。

GPU市场

越来越多的平台从分布式数据中心聚合GPU容量，提供更灵活的访问模式。例如，GPUnex从超过150个数据中心聚合容量，提供按秒计费和预装AI框架（PyTorch、TensorFlow、JAX）——消除了通常拖慢研究团队的设置开销。这些市场特别适合初创公司、学术研究人员和不需要预留云承诺的可变工作负载团队。

关键问题

如果您的平均GPU利用率低于60%，租赁几乎总是比拥有更具成本效益。在投入资本购买硬件之前，先跟踪您的实际使用量。

GPU的未来

GPU的发展轨迹没有任何放缓的迹象。事实上，进步的速度正在加快。

Rubin架构（2026年）代表了代际飞跃：3360亿个晶体管、50 PFLOPS的FP4推理，以及业界首次HBM4内存集成。这大约是Blackwell在AI推理吞吐量上的5倍改进——远超摩尔定律的改进节奏。

能源挑战变得紧迫。单台GPU服务器消耗3,000-5,000瓦特，而CPU服务器为300-500瓦特。全球数据中心功耗预计到2026年将达到96 GW（Deloitte），GPU是主要驱动因素。液冷、更高效的芯片设计和核能数据中心都在积极开发中以应对这一挑战。

供应链约束继续影响市场。高带宽内存（HBM）已经售罄至2026年，SK Hynix、Samsung和Micron都在满负荷运转。TSMC的CoWoS先进封装——将GPU芯片与HBM堆栈键合的技术——仍然是主要的生产瓶颈。

神经形态计算代表着更长期的变革。像Intel的Loihi和BrainChip的Akida这样的芯片模仿生物神经元的结构，对于某些模式识别任务比GPU节能1,000倍。然而，它们缺乏主流采用所需的编程框架和软件生态系统，距离在生产AI工作负载中挑战GPU还有数年之久。

市场前景令人震惊。从2025年的$1015亿到预计2035年的$1.7万亿（Precedence Research），GPU市场以32.6%的年复合增长率增长。GPU不再是一个组件类别——它们正在成为AI时代的决定性基础设施，如同微处理器之于1990年代经济一样根本。

常见问题

GPU实际上做什么？

GPU同时执行数千次数学计算。最初设计用于渲染图形——计算每帧数百万像素的颜色、亮度和位置——GPU现在为AI模型训练、科学模拟、视频处理以及任何受益于大规模并行性的工作负载提供动力。关键能力是吞吐量：GPU以牺牲单任务速度换取一次处理大量简单运算的能力。

我做AI需要GPU吗？

对于训练超过几亿参数的模型，是的。GPU集群几小时就能完成的任务，CPU可能需要数周甚至数月。对于较小模型（15亿参数以下）的推理，现代CPU有时可以匹配GPU性能，特别是使用ONNX等优化运行时。但对于严肃的AI开发——微调大语言模型、训练扩散模型、运行强化学习实验——GPU大幅减少了迭代时间，实际上是必需的。

VRAM和RAM有什么区别？

RAM（系统内存）服务于CPU和操作系统。它保存运行中的应用程序、文件缓存和操作系统进程。VRAM（视频内存）专用于GPU，保存纹理、帧缓冲区、模型权重和中间计算结果。VRAM通常快得多——HBM3达到3.35 TB/s，而DDR5大约为50 GB/s——但总容量较小。对于AI工作负载，VRAM是关键瓶颈：您模型的权重、激活值和优化器状态必须全部放入VRAM才能高效训练。

为什么GPU这么贵？

三个汇聚的因素推动GPU定价。首先，制造复杂性：TSMC最先进的制造节点每个晶圆厂的建设成本超过$200亿，每块晶圆只能生产有限数量的大型复杂GPU芯片。其次，稀缺的高带宽内存：HBM3和HBM4供应已售罄至2026年，AI公司的需求远超生产能力。第三，前所未有的需求：AI公司在2026年总共花费超过**$6000亿用于基础设施**，创造了一个卖方市场，NVIDIA可以为数据中心GPU收取溢价。

我可以在没有CPU的情况下使用GPU吗？

不行。GPU是加速器，而非独立处理器。它需要CPU（“主机”）来协调任务、管理操作系统、处理文件I/O和执行顺序逻辑。CPU将工作发送到GPU，GPU并行处理后返回结果。它们作为团队运作——CPU编排，GPU计算。即使在拥有32,000块GPU的大型GPU集群中，每个节点都包含管理调度、网络和数据移动的CPU。

租赁GPU需要多少钱？

云GPU定价因GPU型号、提供商、区域和承诺级别而有很大差异。NVIDIA H100的价格从**$1.49到$6.98/小时不等，取决于提供商以及您使用的是竞价、按需还是预留定价。A100在GPU市场上的价格可低至$1/小时以下**。对于较轻的推理工作负载，NVIDIA L4起价约为**$0.30/小时**。某些平台的按秒计费选项可以进一步降低突发性短期任务的成本。