模型路由(Model Routing)
AI 界的分诊台——简单问题派小模型秒答,难题转专家旗舰,成本与质量的自动平衡术,既省钱又不牺牲体验。…
3 次浏览RLHF(人类反馈强化学习)
让 AI 学会“好好说话”的方法——人类对模型的多个回答打分排序,模型照着人类偏好调整,从“会接龙”进化成“会聊天”。ChatGPT 好用的最大功臣之一。…
2 次浏览并行函数调用(Parallel Tool Calls)
AI 助手的“一次性多线办事”——模型一次发出多个互不依赖的工具调用并发执行,结果齐了再汇总,延迟从串行累加变成等最慢一个。…
4 次浏览优化器(AdamW)
参数更新的智能油门——动量记惯性、二阶动量定每个参数的步幅,AdamW 是大模型训练微调的默认优化器,也是检查点变大的元凶。…
9 次浏览推理引擎(vLLM 与推理框架)
让模型“跑得快装得多”的后厨——精细管理缓存、请求随到随拼批,同一张显卡吞吐翻倍,自建 AI 服务的选型核心。…
15 次浏览本地开发环境(显卡与驱动)
在自己电脑跑大模型的“开工三件套”——显卡显存、驱动运行时与推理工具,显存是第一硬约束,选对少走弯路。…
15 次浏览人类偏好评估(Human Preference)
让真人给 AI 回答打分——同一个问题、两个答案,选出更好的那个,把“好用”这种主观感受变成可统计的数据,RLHF 的地基。…
19 次浏览Agent 评测(智能体评测)
考 AI 员工的绩效考核——不只看回答说了什么,还要看任务到底办没办成、步骤绕没绕路、烧了多少 Token,智能体落地的验收标准。…
20 次浏览AI 唱歌修音(K 歌修音)
五音不全的“后悔药”——跑调自动修正、干瘪人声加上空间感,唱完一键出“录音棚质感”,K 歌分享与翻唱视频的幕后功臣。…
19 次浏览AI 修图
说句话就修图——“把背景换成海边”“把路人去掉”,AI 让修图从技术活变成一句话的事,电商与旅拍的新标配。…
36 次浏览OCR(光学字符识别)
让机器“认字”——把图片、扫描件里的文字抠出来变成可编辑文本。大模型时代的 OCR 连表格、公式、手写体都能整页还原。…
22 次浏览数字人直播(虚拟主播)
不睡觉的“直播间主播”——数字人照着脚本介绍商品、应答弹幕,一天能播二十四小时,成本只要真人零头,但标识与类目规则必须先读。…
35 次浏览评测基准(Benchmark)
给 AI 出的“统一考卷”——MMLU 考知识、HumanEval 考代码,新闻里“模型得分超越谁”用的都是这些卷子。也催生了“刷榜”这个行业词。…
26 次浏览多 Token 预测(MTP)
一次多交几份答案——模型每步同时预测后面几个词元,训练信号更密更远,推理时草稿头还能白捡一笔加速,DeepSeek V3 已内置。…
26 次浏览Fine-tuning(微调)
给通用模型开小灶:用自己的数据再练一遍,让它更懂某个行业的话术、格式和分寸。微调、RAG、提示词三者怎么选,是每个想定制 AI 的人都会遇到的问题,这条词条一次…
28 次浏览