对齐(Alignment)
给 AI 立规矩——让模型的能力朝着人类想要的方向使:有用、诚实、无害。AI 为什么会拒答、会认怂、会追问你的需求,背后都是对齐的功劳。…
3 次浏览提示缓存(Prompt Caching)
API 的团购价——反复用同一段长提示词时,命中缓存的部分按一折左右计费。长系统提示词用户和 Agent 开发者的省钱大招。…
3 次浏览RLHF(人类反馈强化学习)
让 AI 学会“好好说话”的方法——人类对模型的多个回答打分排序,模型照着人类偏好调整,从“会接龙”进化成“会聊天”。ChatGPT 好用的最大功臣之一。…
16 次浏览并行函数调用(Parallel Tool Calls)
AI 助手的“一次性多线办事”——模型一次发出多个互不依赖的工具调用并发执行,结果齐了再汇总,延迟从串行累加变成等最慢一个。…
16 次浏览推理引擎(vLLM 与推理框架)
让模型“跑得快装得多”的后厨——精细管理缓存、请求随到随拼批,同一张显卡吞吐翻倍,自建 AI 服务的选型核心。…
31 次浏览位置编码(RoPE)
给每个字发座位号——注意力本身不分先后,靠位置编码才知道谁前谁后。RoPE 是当下主流方案,各种长上下文技术都围着它转。…
25 次浏览成员推断攻击(Membership Inference)
反推“你的数据有没有被拿去训练”——通过观察模型对输入的自信程度判断某条记录是否在训练集里。隐私审计的利器,也是模型记忆的照妖镜。…
32 次浏览Agent 评测(智能体评测)
考 AI 员工的绩效考核——不只看回答说了什么,还要看任务到底办没办成、步骤绕没绕路、烧了多少 Token,智能体落地的验收标准。…
31 次浏览API(应用程序接口)
程序之间“点菜”的窗口——你的应用按规矩发请求,AI 服务按规矩返回结果,不用关心后厨怎么炒的。开发者接 AI 能力的第一站。…
30 次浏览AI 助手(AI Assistant)
装在设备与应用里的贴身秘书——接日程、查邮件、订机票、控家电,AI 助手正从“能聊天”进化为“能办事”。…
28 次浏览OCR(光学字符识别)
让机器“认字”——把图片、扫描件里的文字抠出来变成可编辑文本。大模型时代的 OCR 连表格、公式、手写体都能整页还原。…
29 次浏览AI 医疗影像(Medical Imaging AI)
放射科医生的“第二双眼睛”——AI 读 CT、X 光片,几秒圈出可疑病灶,筛查提效明显。定位是辅助工具,最终诊断权始终在医生手里。…
41 次浏览GPT(生成式预训练变换器)
最出名的 AI 模型家族名——ChatGPT 的 G、P、T 三个字母分别是“生成式、预训练、变换器”。这个名字直接定义了一个时代。…
31 次浏览多智能体(Multi-Agent)
组个 AI 团队干活——写手的归写手、审稿的归审稿、拍板的归拍板,各司其职互相校验,比一个 AI 单打独斗更稳。…
31 次浏览稀疏注意力(Sparse Attention)
别每个字都看全文——只挑重点位置看,长文本处理的“省力读法”,百万 token 上下文的幕后功臣之一。…
35 次浏览