量化感知训练(QAT)
训练时就“按压缩后的样子练”——把量化误差放进训练循环,模型提前适应低精度,端侧部署前的深度压缩选项。…
2 次浏览数据集许可证(Dataset License)
数据的“使用条款”——模型权重有许可证,训练它的数据同样有:能商用吗?要署名吗?能再分发吗?训练前必查。…
9 次浏览生成式 AI(Generative AI)
会“无中生有”的 AI——不只会分类打标签,还能直接产出新内容:写文章、画图、做视频、敲代码。这一波 AI 浪潮的正式名字。…
6 次浏览训练数据(Training Data)
模型的“教材”——AI 的本事、知识甚至偏见都来自它,喂什么长成什么样。版权争议、能力差异,根源都在这份数据里。…
6 次浏览推理引擎(vLLM 与推理框架)
让模型“跑得快装得多”的后厨——精细管理缓存、请求随到随拼批,同一张显卡吞吐翻倍,自建 AI 服务的选型核心。…
6 次浏览位置编码(RoPE)
给每个字发座位号——注意力本身不分先后,靠位置编码才知道谁前谁后。RoPE 是当下主流方案,各种长上下文技术都围着它转。…
7 次浏览开源许可证(Model License)
开源模型的“使用说明书”——能商用吗?能拿去训练自家模型吗?答案都在许可证里,选型前必读,看错条款代价不小。…
7 次浏览本地开发环境(显卡与驱动)
在自己电脑跑大模型的“开工三件套”——显卡显存、驱动运行时与推理工具,显存是第一硬约束,选对少走弯路。…
8 次浏览后门攻击(Backdoor Attack)
给模型装“暗门”——平时表现完全正常,输入里一旦出现约定的暗号,模型立刻按攻击者意图行事。潜伏性最强的模型安全威胁之一。…
8 次浏览人类偏好评估(Human Preference)
让真人给 AI 回答打分——同一个问题、两个答案,选出更好的那个,把“好用”这种主观感受变成可统计的数据,RLHF 的地基。…
11 次浏览成员推断攻击(Membership Inference)
反推“你的数据有没有被拿去训练”——通过观察模型对输入的自信程度判断某条记录是否在训练集里。隐私审计的利器,也是模型记忆的照妖镜。…
11 次浏览AI 知识库(Knowledge Base)
给 AI 喂“内部资料”再让它上岗——把公司文档、手册、笔记喂进去,AI 回答就带上了你的业务知识,还能标注出处。…
14 次浏览AI 笔记
会自己“读”笔记的笔记本——把文档丢进去就能提问、总结、生成学习指南。笔记从“存起来”变成“用起来”。…
15 次浏览长上下文评测(大海捞针)
给模型发一本小说,只在某页藏一句话,问它“针在哪”——大海捞针测试是长上下文能力的标配考卷,选长文本模型必看。…
23 次浏览评测基准(Benchmark)
给 AI 出的“统一考卷”——MMLU 考知识、HumanEval 考代码,新闻里“模型得分超越谁”用的都是这些卷子。也催生了“刷榜”这个行业词。…
22 次浏览