数
数据投毒(Data Poisoning)
往模型的“课本”里塞私货——在训练数据里埋进特定样本,让训练出的模型遇到某个触发条件就按攻击者的意思输出。…
1 次浏览S
System Prompt(系统提示词)
你没写过、但 AI 已经先读过的“幕后剧本”。产品方用它规定 AI 的性格、语气和行为边界,你看到的每一个“有性格”的 AI 背后都有它。想知道你的 AI 为什…
18 次浏览红
红队测试(Red Teaming)
雇一队“职业挑刺的”——发布前专门想方设法让 AI 说错话、泄密、越界,把漏洞自己先找完。大模型发布流程的标配安全环节。…
18 次浏览重
重试与退避(Retry with Backoff)
调 API 被拒后的“礼貌再试”——失败后等一等再重试,越失败等得越久,别把故障服务雪上加霜,调用方的必修课。…
20 次浏览