思
思维树(Tree of Thoughts)
让 AI“三思而后行”的进阶版——同时想几条思路,走不通的回头换路,最后挑最好的答案。像下棋时多算几步棋。…
12 次浏览人
人类偏好评估(Human Preference)
让真人给 AI 回答打分——同一个问题、两个答案,选出更好的那个,把“好用”这种主观感受变成可统计的数据,RLHF 的地基。…
50 次浏览成
成员推断攻击(Membership Inference)
反推“你的数据有没有被拿去训练”——通过观察模型对输入的自信程度判断某条记录是否在训练集里。隐私审计的利器,也是模型记忆的照妖镜。…
56 次浏览A
Agent 评测(智能体评测)
考 AI 员工的绩效考核——不只看回答说了什么,还要看任务到底办没办成、步骤绕没绕路、烧了多少 Token,智能体落地的验收标准。…
52 次浏览A
AI 治理(AI Governance)
给 AI 划车道的“交通规则”——法律法规、行业标准、企业制度一起管住 AI 的风险,让技术跑得快也不翻车。…
61 次浏览训
训练稳定性与 Loss Spike
大训练的“心电图异常”——loss 无预警飙升又回落,可能自愈也可能报废,万卡训练排障与自动回滚的工程艺术。…
75 次浏览生
生成式 AI 服务管理暂行办法
国内生成式 AI 的“总章程”——2023 年 8 月施行的暂行办法,划定安全评估、数据合规、内容标识与服务透明的基本线。…
73 次浏览盲
盲测评估(Blind Evaluation)
撕掉标签再打分——评审不知道回答来自哪个模型,位置与品牌偏见少一半,竞技场与企业选型都在用的公平手段。…
72 次浏览红
红队测试(Red Teaming)
雇一队“职业挑刺的”——发布前专门想方设法让 AI 说错话、泄密、越界,把漏洞自己先找完。大模型发布流程的标配安全环节。…
82 次浏览模
模型当裁判(LLM-as-a-Judge)
用 AI 给 AI 批卷子——强模型按准则给回答打分排序,评测成本砍一个数量级,但要先治好位置、长度、自恋三大偏见。…
73 次浏览数
数学评测(GSM8K 类)
给 AI 出数学卷子——从小学应用题、奥赛到研究级难题,答案唯一、自动判分,是检验模型“真推理”能力的首选考场。…
74 次浏览