量化(Quantization)
给模型“减肥”——把参数从高精度数字压成低精度存储,体积砍半甚至砍到四分之一,普通电脑也能跑大模型。本地部署绕不开的词。…
1 次浏览Stable Diffusion
开源文生图的功勋元老——权重公开让全世界开发者魔改,AI 绘画生态的奠基者,本地跑图玩家的启蒙老师。…
1 次浏览对齐(Alignment)
给 AI 立规矩——让模型的能力朝着人类想要的方向使:有用、诚实、无害。AI 为什么会拒答、会认怂、会追问你的需求,背后都是对齐的功劳。…
14 次浏览提示缓存(Prompt Caching)
API 的团购价——反复用同一段长提示词时,命中缓存的部分按一折左右计费。长系统提示词用户和 Agent 开发者的省钱大招。…
15 次浏览RLHF(人类反馈强化学习)
让 AI 学会“好好说话”的方法——人类对模型的多个回答打分排序,模型照着人类偏好调整,从“会接龙”进化成“会聊天”。ChatGPT 好用的最大功臣之一。…
24 次浏览并行函数调用(Parallel Tool Calls)
AI 助手的“一次性多线办事”——模型一次发出多个互不依赖的工具调用并发执行,结果齐了再汇总,延迟从串行累加变成等最慢一个。…
21 次浏览推理引擎(vLLM 与推理框架)
让模型“跑得快装得多”的后厨——精细管理缓存、请求随到随拼批,同一张显卡吞吐翻倍,自建 AI 服务的选型核心。…
38 次浏览位置编码(RoPE)
给每个字发座位号——注意力本身不分先后,靠位置编码才知道谁前谁后。RoPE 是当下主流方案,各种长上下文技术都围着它转。…
31 次浏览Agent 评测(智能体评测)
考 AI 员工的绩效考核——不只看回答说了什么,还要看任务到底办没办成、步骤绕没绕路、烧了多少 Token,智能体落地的验收标准。…
39 次浏览API(应用程序接口)
程序之间“点菜”的窗口——你的应用按规矩发请求,AI 服务按规矩返回结果,不用关心后厨怎么炒的。开发者接 AI 能力的第一站。…
35 次浏览AI 助手(AI Assistant)
装在设备与应用里的贴身秘书——接日程、查邮件、订机票、控家电,AI 助手正从“能聊天”进化为“能办事”。…
34 次浏览注意力变体(GQA 与 MLA)
注意力的“省显存改款”——GQA 分组共享缓存、MLA 低秩压缩缓存,DeepSeek 与 Llama 各押一条路,推理成本的关键变量。…
45 次浏览多智能体(Multi-Agent)
组个 AI 团队干活——写手的归写手、审稿的归审稿、拍板的归拍板,各司其职互相校验,比一个 AI 单打独斗更稳。…
38 次浏览稀疏注意力(Sparse Attention)
别每个字都看全文——只挑重点位置看,长文本处理的“省力读法”,百万 token 上下文的幕后功臣之一。…
43 次浏览MCP(模型上下文协议)
AI 世界的“USB 接口”——以前每接一个工具都要定做一根线,MCP 定了统一插口:AI 一次接入,所有支持的工具即插即用。2025 年起的事实标准。…
47 次浏览