GPU（图形处理器）

一句话理解

AI 时代的“电力”——原本为游戏画面发明的芯片，因为擅长海量并行计算，成了训练和运行大模型的标配引擎。

定义

GPU（Graphics Processing Unit）是高度并行化的处理器，拥有数千个小核心，适合同时做大量相似的简单计算——恰好匹配神经网络的核心运算（矩阵乘法）。凭借 CUDA 软件生态，英伟达占据 AI 算力的主导地位。

你会在哪遇到它

新闻里的“H100”“算力卡”“显卡荒”；模型要求里“需要多少显存的 GPU”；买电脑时纠结 NPU 与 GPU 的配置选择。

背后的原理

训练和推理的主体运算是矩阵乘法，可拆成海量独立小任务。CPU 像几位教授串行处理复杂逻辑，GPU 像几千个小学生并行抄写简单作业——后者做矩阵运算的单位成本低几个数量级。显存是另一道硬门槛：模型权重、KV 缓存都要住进显存，这也是“70B 模型量化后也要几十 G 显存”的由来。NPU 则是设备端专为 AI 计算设计的低功耗版本。

和相近概念的区别

1 与 CPU：CPU 少核、强在逻辑调度，GPU 多核、强在并行矩阵运算，训练时两者搭档。 2 与算力：算力是抽象资源，GPU 是目前承载算力的主流硬件形态。 3 与 TPU 等自研芯片：各家专用 AI 芯片都在挑战 GPU，但生态与通用性仍是 GPU 的护城河。

常见误区

1 显卡只为游戏而生——AI 消耗了相当比例的高端产能，游戏玩家反而受涨价缺货之苦。 2 显存够大就能跑一切——算力、带宽、软件生态同样可能卡脖子。 3 GPU 地位不可动摇——专用芯片在特定场景效率更高，长期格局仍未定。