生成式 AI（Generative AI）
会“无中生有”的 AI——不只会分类打标签，还能直接产出新内容：写文章、画图、做视频、敲代码。这一波 AI 浪潮的正式名字。…
0 次浏览ChatGPT
让全世界看见 AI 的产品——2022 年底上线两个月破亿用户，“AI 元年”的起点。很多人接触的第一个 AI 就是它，但它只是众多 AI 产品之一。…
1 次浏览推理引擎（vLLM 与推理框架）
让模型“跑得快装得多”的后厨——精细管理缓存、请求随到随拼批，同一张显卡吞吐翻倍，自建 AI 服务的选型核心。…
1 次浏览本地开发环境（显卡与驱动）
在自己电脑跑大模型的“开工三件套”——显卡显存、驱动运行时与推理工具，显存是第一硬约束，选对少走弯路。…
5 次浏览API（应用程序接口）
程序之间“点菜”的窗口——你的应用按规矩发请求，AI 服务按规矩返回结果，不用关心后厨怎么炒的。开发者接 AI 能力的第一站。…
12 次浏览长上下文评测（大海捞针）
给模型发一本小说，只在某页藏一句话，问它“针在哪”——大海捞针测试是长上下文能力的标配考卷，选长文本模型必看。…
19 次浏览豆包（Doubao）
字节家的“国民级 AI 助手”——背靠抖音生态，主打免费好用、语音对话自然，用户量最大的国产 AI 应用之一。…
25 次浏览多 Token 预测（MTP）
一次多交几份答案——模型每步同时预测后面几个词元，训练信号更密更远，推理时草稿头还能白捡一笔加速，DeepSeek V3 已内置。…
22 次浏览注意力变体（GQA 与 MLA）
注意力的“省显存改款”——GQA 分组共享缓存、MLA 低秩压缩缓存，DeepSeek 与 Llama 各押一条路，推理成本的关键变量。…
18 次浏览思维链（Chain-of-Thought）
让 AI 把解题步骤写出来再给答案——像老师要求“写步骤”，写了步骤，数学和逻辑题的正确率明显提高。一句话就能用上的经典技巧。…
17 次浏览混合精度训练（Mixed Precision）
训练时的省显存魔法——大部分计算用半精度、关键更新保全精度，速度显存双丰收，效果几乎无损，如今大模型训练的默认姿势。…
14 次浏览GPU（图形处理器）
AI 时代的电力——本为游戏画面而生的芯片，因擅长海量并行计算成了大模型的标配引擎。看懂 GPU，才算看懂算力从哪来。…
16 次浏览Scaling Law（缩放定律）
AI 界的“氪金定律”——模型参数、数据、算力一起堆，能力就跟着涨，且涨得可以预测。过去几年所有巨头军备竞赛的理论依据。…
16 次浏览效率评测（延迟与吞吐）
考完聪明考手速——首字延迟、吐字速度、并发与每百万 Token 成本，效率指标决定产品体验与账单，与准确率同是选型的两条腿。…
16 次浏览预训练（Pre-training）
模型的“九年义务教育”——读遍互联网的文字，学会语言规律和世界常识。新闻里“训练一个模型花了几个亿”，钱主要烧在这一步。…
16 次浏览