越狱（Jailbreak）
绕过 AI 的“安全围栏”——用精心设计的话术把本该拒绝的内容套出来。攻防双方一直在斗智斗勇，做 AI 产品的人必须懂它。…
3 次浏览多语言评测（Multilingual Eval）
同一套卷子换成几十种语言再考一遍——看模型是不是偏科英语、低资源语言掉多少分，出海选型前必看的维度。…
8 次浏览RLHF（人类反馈强化学习）
让 AI 学会“好好说话”的方法——人类对模型的多个回答打分排序，模型照着人类偏好调整，从“会接龙”进化成“会聊天”。ChatGPT 好用的最大功臣之一。…
21 次浏览推理模型（Reasoning Model）
会“打草稿”的 AI——回答前先在内部想一大段，把复杂问题想透了再开口。数学、逻辑、代码难题的正确率因此大幅提升，代价是更慢更贵。…
23 次浏览人类偏好评估（Human Preference）
让真人给 AI 回答打分——同一个问题、两个答案，选出更好的那个，把“好用”这种主观感受变成可统计的数据，RLHF 的地基。…
29 次浏览成员推断攻击（Membership Inference）
反推“你的数据有没有被拿去训练”——通过观察模型对输入的自信程度判断某条记录是否在训练集里。隐私审计的利器，也是模型记忆的照妖镜。…
34 次浏览Agent 评测（智能体评测）
考 AI 员工的绩效考核——不只看回答说了什么，还要看任务到底办没办成、步骤绕没绕路、烧了多少 Token，智能体落地的验收标准。…
35 次浏览OCR（光学字符识别）
让机器“认字”——把图片、扫描件里的文字抠出来变成可编辑文本。大模型时代的 OCR 连表格、公式、手写体都能整页还原。…
32 次浏览GPT（生成式预训练变换器）
最出名的 AI 模型家族名——ChatGPT 的 G、P、T 三个字母分别是“生成式、预训练、变换器”。这个名字直接定义了一个时代。…
33 次浏览混合精度训练（Mixed Precision）
训练时的省显存魔法——大部分计算用半精度、关键更新保全精度，速度显存双丰收，效果几乎无损，如今大模型训练的默认姿势。…
31 次浏览预训练（Pre-training）
模型的“九年义务教育”——读遍互联网的文字，学会语言规律和世界常识。新闻里“训练一个模型花了几个亿”，钱主要烧在这一步。…
37 次浏览红队测试（Red Teaming）
雇一队“职业挑刺的”——发布前专门想方设法让 AI 说错话、泄密、越界，把漏洞自己先找完。大模型发布流程的标配安全环节。…
48 次浏览测试时计算（Test-time Compute）
“多想一分钟再答题”的算力化——遇到难题让模型多思考、多尝试、多验证，用推理时的算力换正确率，推理模型的技术内核。…
58 次浏览重试与退避（Retry with Backoff）
调 API 被拒后的“礼貌再试”——失败后等一等再重试，越失败等得越久，别把故障服务雪上加霜，调用方的必修课。…
47 次浏览结构化输出（Structured Output）
让 AI 按表格或 JSON 的固定格式交作业——程序能直接读，不用从一堆散文里抠数据。AI 接入业务系统的必备能力。…
54 次浏览