多 Token 预测（MTP）
一次多交几份答案——模型每步同时预测后面几个词元，训练信号更密更远，推理时草稿头还能白捡一笔加速，DeepSeek V3 已内置。…
1 次浏览注意力变体（GQA 与 MLA）
注意力的“省显存改款”——GQA 分组共享缓存、MLA 低秩压缩缓存，DeepSeek 与 Llama 各押一条路，推理成本的关键变量。…
1 次浏览思维链（Chain-of-Thought）
让 AI 把解题步骤写出来再给答案——像老师要求“写步骤”，写了步骤，数学和逻辑题的正确率明显提高。一句话就能用上的经典技巧。…
3 次浏览Scaling Law（缩放定律）
AI 界的“氪金定律”——模型参数、数据、算力一起堆，能力就跟着涨，且涨得可以预测。过去几年所有巨头军备竞赛的理论依据。…
4 次浏览效率评测（延迟与吞吐）
考完聪明考手速——首字延迟、吐字速度、并发与每百万 Token 成本，效率指标决定产品体验与账单，与准确率同是选型的两条腿。…
4 次浏览预训练（Pre-training）
模型的“九年义务教育”——读遍互联网的文字，学会语言规律和世界常识。新闻里“训练一个模型花了几个亿”，钱主要烧在这一步。…
7 次浏览训练稳定性与 Loss Spike
大训练的“心电图异常”——loss 无预警飙升又回落，可能自愈也可能报废，万卡训练排障与自动回滚的工程艺术。…
10 次浏览稀疏注意力（Sparse Attention）
别每个字都看全文——只挑重点位置看，长文本处理的“省力读法”，百万 token 上下文的幕后功臣之一。…
14 次浏览深度伪造检测（Deepfake Detection）
用 AI 抓 AI 假货——检测视频是不是换脸、声音是不是克隆。伪造越来越真，检测也得一直进化，最可靠的防线永远是流程验证。…
14 次浏览Notion AI
笔记软件里的驻场写手——选中文字一键翻译、续写、总结，还能问它笔记里写过什么直接开卷作答，把 AI 缝进日常写作与知识库的典型。…
22 次浏览损失函数（Loss Function）
给模型打分的错题量化器——把“输出离正确答案有多远”算成一个数，训练的全部目标就是把这个数压下去。训练曲线上的 loss 线就是它。…
26 次浏览测试时计算（Test-time Compute）
“多想一分钟再答题”的算力化——遇到难题让模型多思考、多尝试、多验证，用推理时的算力换正确率，推理模型的技术内核。…
28 次浏览继续预训练（Continual Pre-training）
给模型“复读深造”——拿自己领域的大量文本接着预训练，让通用模型变成行业行家。介于预训练和微调之间的中间路线。…
28 次浏览智能驾驶（Autonomous Driving）
会自己开的车——从高速领航到城区智驾，AI 把路况变成模型输入，方向盘从“人主导”慢慢变“人监督”。辅助驾驶的责任人仍是驾驶员。…
23 次浏览Multimodal（多模态）
能看图、听声、看视频的 AI 就是多模态模型。发截图问报错、拍照片认植物、语音对话，都靠它。这条词条讲清它和纯文字模型的差别，以及“看图”这件事上它还会犯哪些错…
43 次浏览