优化器(AdamW)
参数更新的智能油门——动量记惯性、二阶动量定每个参数的步幅,AdamW 是大模型训练微调的默认优化器,也是检查点变大的元凶。…
3 次浏览推理引擎(vLLM 与推理框架)
让模型“跑得快装得多”的后厨——精细管理缓存、请求随到随拼批,同一张显卡吞吐翻倍,自建 AI 服务的选型核心。…
12 次浏览AI 唱歌修音(K 歌修音)
五音不全的“后悔药”——跑调自动修正、干瘪人声加上空间感,唱完一键出“录音棚质感”,K 歌分享与翻唱视频的幕后功臣。…
17 次浏览评测基准(Benchmark)
给 AI 出的“统一考卷”——MMLU 考知识、HumanEval 考代码,新闻里“模型得分超越谁”用的都是这些卷子。也催生了“刷榜”这个行业词。…
25 次浏览多 Token 预测(MTP)
一次多交几份答案——模型每步同时预测后面几个词元,训练信号更密更远,推理时草稿头还能白捡一笔加速,DeepSeek V3 已内置。…
26 次浏览混合精度训练(Mixed Precision)
训练时的省显存魔法——大部分计算用半精度、关键更新保全精度,速度显存双丰收,效果几乎无损,如今大模型训练的默认姿势。…
18 次浏览数据飞轮(Data Flywheel)
越用越聪明的增长飞轮——用户用得越多,产生的数据越多,模型越好用,吸引更多人用。AI 产品的护城河逻辑。…
31 次浏览效率评测(延迟与吞吐)
考完聪明考手速——首字延迟、吐字速度、并发与每百万 Token 成本,效率指标决定产品体验与账单,与准确率同是选型的两条腿。…
19 次浏览提示词工程师(Prompt Engineer)
和 AI 对话的职业——靠写好提示词拿高薪的岗位,2023 年爆火、随后争议不断:是刚需手艺,还是即将被模型进化淘汰的过渡职业?…
21 次浏览稀疏注意力(Sparse Attention)
别每个字都看全文——只挑重点位置看,长文本处理的“省力读法”,百万 token 上下文的幕后功臣之一。…
24 次浏览损失函数(Loss Function)
给模型打分的错题量化器——把“输出离正确答案有多远”算成一个数,训练的全部目标就是把这个数压下去。训练曲线上的 loss 线就是它。…
43 次浏览测试时计算(Test-time Compute)
“多想一分钟再答题”的算力化——遇到难题让模型多思考、多尝试、多验证,用推理时的算力换正确率,推理模型的技术内核。…
39 次浏览课程学习(Curriculum Learning)
先易后难的教学法——训练时把数据从简单到难排序喂给模型,像小学到大学的课程表,让学习过程更稳、收敛更顺。…
39 次浏览Llama(羊驼)
开源界的“领头羊”(名字就是羊驼)——Meta 发布的开放权重模型系列,全球开发者魔改的底料,开源生态的半壁江山。…
37 次浏览AI 简历
求职季的隐形军备——AI 把你的经历改写成“结果导向”的表达、按岗位关键词优化,还能模拟面试。改写有理,编造无门。…
34 次浏览