本
本地开发环境（显卡与驱动）
在自己电脑跑大模型的“开工三件套”——显卡显存、驱动运行时与推理工具，显存是第一硬约束，选对少走弯路。…
3 次浏览多
多 Token 预测（MTP）
一次多交几份答案——模型每步同时预测后面几个词元，训练信号更密更远，推理时草稿头还能白捡一笔加速，DeepSeek V3 已内置。…
21 次浏览注
注意力变体（GQA 与 MLA）
注意力的“省显存改款”——GQA 分组共享缓存、MLA 低秩压缩缓存，DeepSeek 与 Llama 各押一条路，推理成本的关键变量。…
18 次浏览混
混合精度训练（Mixed Precision）
训练时的省显存魔法——大部分计算用半精度、关键更新保全精度，速度显存双丰收，效果几乎无损，如今大模型训练的默认姿势。…
13 次浏览G
GPU（图形处理器）
AI 时代的电力——本为游戏画面而生的芯片，因擅长海量并行计算成了大模型的标配引擎。看懂 GPU，才算看懂算力从哪来。…
14 次浏览稀
稀疏注意力（Sparse Attention）
别每个字都看全文——只挑重点位置看，长文本处理的“省力读法”，百万 token 上下文的幕后功臣之一。…
23 次浏览