混
混合精度训练（Mixed Precision）
训练时的省显存魔法——大部分计算用半精度、关键更新保全精度，速度显存双丰收，效果几乎无损，如今大模型训练的默认姿势。…
1 次浏览G
GPU（图形处理器）
AI 时代的电力——本为游戏画面而生的芯片，因擅长海量并行计算成了大模型的标配引擎。看懂 GPU，才算看懂算力从哪来。…
1 次浏览S
Scaling Law（缩放定律）
AI 界的“氪金定律”——模型参数、数据、算力一起堆，能力就跟着涨，且涨得可以预测。过去几年所有巨头军备竞赛的理论依据。…
2 次浏览预
预训练（Pre-training）
模型的“九年义务教育”——读遍互联网的文字，学会语言规律和世界常识。新闻里“训练一个模型花了几个亿”，钱主要烧在这一步。…
6 次浏览多
多模态评测（图文音视频基准）
考完文字考“看图听话”——图表问答、文档理解、视频与语音任务，多模态评测的成套考卷正在成型，判分远比纯文本难。…
17 次浏览A
AIGC（AI 生成内容）
AI 生产的所有内容——文章、图片、视频、音乐、代码，只要不是人亲手做的而是 AI 产的，都叫 AIGC。平台要求“标注 AIGC”标的也是它。…
20 次浏览测
测试时计算（Test-time Compute）
“多想一分钟再答题”的算力化——遇到难题让模型多思考、多尝试、多验证，用推理时的算力换正确率，推理模型的技术内核。…
25 次浏览