上下文窗口（Context Window）
AI 一次能“记住”多少内容是有上限的，这个上限就是上下文窗口。为什么聊久了它会忘事、为什么长文档读不进去、为什么新对话不记得旧的——背后都是它在起作用。…
0 次浏览量化（Quantization）
给模型“减肥”——把参数从高精度数字压成低精度存储，体积砍半甚至砍到四分之一，普通电脑也能跑大模型。本地部署绕不开的词。…
2 次浏览Stable Diffusion
开源文生图的功勋元老——权重公开让全世界开发者魔改，AI 绘画生态的奠基者，本地跑图玩家的启蒙老师。…
1 次浏览对齐（Alignment）
给 AI 立规矩——让模型的能力朝着人类想要的方向使：有用、诚实、无害。AI 为什么会拒答、会认怂、会追问你的需求，背后都是对齐的功劳。…
15 次浏览提示缓存（Prompt Caching）
API 的团购价——反复用同一段长提示词时，命中缓存的部分按一折左右计费。长系统提示词用户和 Agent 开发者的省钱大招。…
15 次浏览RLHF（人类反馈强化学习）
让 AI 学会“好好说话”的方法——人类对模型的多个回答打分排序，模型照着人类偏好调整，从“会接龙”进化成“会聊天”。ChatGPT 好用的最大功臣之一。…
24 次浏览并行函数调用（Parallel Tool Calls）
AI 助手的“一次性多线办事”——模型一次发出多个互不依赖的工具调用并发执行，结果齐了再汇总，延迟从串行累加变成等最慢一个。…
21 次浏览推理引擎（vLLM 与推理框架）
让模型“跑得快装得多”的后厨——精细管理缓存、请求随到随拼批，同一张显卡吞吐翻倍，自建 AI 服务的选型核心。…
38 次浏览位置编码（RoPE）
给每个字发座位号——注意力本身不分先后，靠位置编码才知道谁前谁后。RoPE 是当下主流方案，各种长上下文技术都围着它转。…
31 次浏览Agent 评测（智能体评测）
考 AI 员工的绩效考核——不只看回答说了什么，还要看任务到底办没办成、步骤绕没绕路、烧了多少 Token，智能体落地的验收标准。…
39 次浏览API（应用程序接口）
程序之间“点菜”的窗口——你的应用按规矩发请求，AI 服务按规矩返回结果，不用关心后厨怎么炒的。开发者接 AI 能力的第一站。…
35 次浏览AI 助手（AI Assistant）
装在设备与应用里的贴身秘书——接日程、查邮件、订机票、控家电，AI 助手正从“能聊天”进化为“能办事”。…
34 次浏览注意力变体（GQA 与 MLA）
注意力的“省显存改款”——GQA 分组共享缓存、MLA 低秩压缩缓存，DeepSeek 与 Llama 各押一条路，推理成本的关键变量。…
45 次浏览多智能体（Multi-Agent）
组个 AI 团队干活——写手的归写手、审稿的归审稿、拍板的归拍板，各司其职互相校验，比一个 AI 单打独斗更稳。…
38 次浏览稀疏注意力（Sparse Attention）
别每个字都看全文——只挑重点位置看，长文本处理的“省力读法”，百万 token 上下文的幕后功臣之一。…
43 次浏览