AI 资源频道

AI 术语词典

通俗易懂的 AI 术语解释,按字母索引快速查阅。 共 11 条 · 关键词「RAG评估」

热 A B C D E F G H I J K L M N O P Q R S T U V W X Y Z
思

思维树(Tree of Thoughts)

让 AI“三思而后行”的进阶版——同时想几条思路,走不通的回头换路,最后挑最好的答案。像下棋时多算几步棋。…

12 次浏览
人

人类偏好评估(Human Preference)

让真人给 AI 回答打分——同一个问题、两个答案,选出更好的那个,把“好用”这种主观感受变成可统计的数据,RLHF 的地基。…

50 次浏览
成

成员推断攻击(Membership Inference)

反推“你的数据有没有被拿去训练”——通过观察模型对输入的自信程度判断某条记录是否在训练集里。隐私审计的利器,也是模型记忆的照妖镜。…

56 次浏览
A

Agent 评测(智能体评测)

考 AI 员工的绩效考核——不只看回答说了什么,还要看任务到底办没办成、步骤绕没绕路、烧了多少 Token,智能体落地的验收标准。…

52 次浏览
A

AI 治理(AI Governance)

给 AI 划车道的“交通规则”——法律法规、行业标准、企业制度一起管住 AI 的风险,让技术跑得快也不翻车。…

61 次浏览
训

训练稳定性与 Loss Spike

大训练的“心电图异常”——loss 无预警飙升又回落,可能自愈也可能报废,万卡训练排障与自动回滚的工程艺术。…

75 次浏览
生

生成式 AI 服务管理暂行办法

国内生成式 AI 的“总章程”——2023 年 8 月施行的暂行办法,划定安全评估、数据合规、内容标识与服务透明的基本线。…

73 次浏览
盲

盲测评估(Blind Evaluation)

撕掉标签再打分——评审不知道回答来自哪个模型,位置与品牌偏见少一半,竞技场与企业选型都在用的公平手段。…

72 次浏览
红

红队测试(Red Teaming)

雇一队“职业挑刺的”——发布前专门想方设法让 AI 说错话、泄密、越界,把漏洞自己先找完。大模型发布流程的标配安全环节。…

82 次浏览
模

模型当裁判(LLM-as-a-Judge)

用 AI 给 AI 批卷子——强模型按准则给回答打分排序,评测成本砍一个数量级,但要先治好位置、长度、自恋三大偏见。…

73 次浏览
数

数学评测(GSM8K 类)

给 AI 出数学卷子——从小学应用题、奥赛到研究级难题,答案唯一、自动判分,是检验模型“真推理”能力的首选考场。…

74 次浏览
便签
已输入:0/500字

    扫码访问工具