对齐(Alignment)
给 AI 立规矩——让模型的能力朝着人类想要的方向使:有用、诚实、无害。AI 为什么会拒答、会认怂、会追问你的需求,背后都是对齐的功劳。…
3 次浏览SFT(监督微调)
给基座模型上岗位培训班——拿人工写好的标准问答示范教它好好说话,是大模型从“会续写”到“会对话”的关键一步。…
2 次浏览提示注入(Prompt Injection)
把“坏指令”藏进 AI 要处理的资料里——AI 读文档时把文档里的恶意指令当成命令执行。AI 应用的头号安全威胁。…
2 次浏览学习率与预热(LR Warmup)
训练的“油门设定”——先热身再加速、后期缓缓收油,步子迈太大直接训崩,是最影响训练成败的超参数,没有之一。…
12 次浏览RLHF(人类反馈强化学习)
让 AI 学会“好好说话”的方法——人类对模型的多个回答打分排序,模型照着人类偏好调整,从“会接龙”进化成“会聊天”。ChatGPT 好用的最大功臣之一。…
16 次浏览并行函数调用(Parallel Tool Calls)
AI 助手的“一次性多线办事”——模型一次发出多个互不依赖的工具调用并发执行,结果齐了再汇总,延迟从串行累加变成等最慢一个。…
16 次浏览优化器(AdamW)
参数更新的智能油门——动量记惯性、二阶动量定每个参数的步幅,AdamW 是大模型训练微调的默认优化器,也是检查点变大的元凶。…
25 次浏览量化感知训练(QAT)
训练时就“按压缩后的样子练”——把量化误差放进训练循环,模型提前适应低精度,端侧部署前的深度压缩选项。…
24 次浏览训练数据(Training Data)
模型的“教材”——AI 的本事、知识甚至偏见都来自它,喂什么长成什么样。版权争议、能力差异,根源都在这份数据里。…
26 次浏览位置编码(RoPE)
给每个字发座位号——注意力本身不分先后,靠位置编码才知道谁前谁后。RoPE 是当下主流方案,各种长上下文技术都围着它转。…
25 次浏览开源许可证(Model License)
开源模型的“使用说明书”——能商用吗?能拿去训练自家模型吗?答案都在许可证里,选型前必读,看错条款代价不小。…
30 次浏览AI 修图
说句话就修图——“把背景换成海边”“把路人去掉”,AI 让修图从技术活变成一句话的事,电商与旅拍的新标配。…
49 次浏览AI 助手(AI Assistant)
装在设备与应用里的贴身秘书——接日程、查邮件、订机票、控家电,AI 助手正从“能聊天”进化为“能办事”。…
29 次浏览Fine-tuning(微调)
给通用模型开小灶:用自己的数据再练一遍,让它更懂某个行业的话术、格式和分寸。微调、RAG、提示词三者怎么选,是每个想定制 AI 的人都会遇到的问题,这条词条一次…
36 次浏览数据飞轮(Data Flywheel)
越用越聪明的增长飞轮——用户用得越多,产生的数据越多,模型越好用,吸引更多人用。AI 产品的护城河逻辑。…
46 次浏览