越
越狱（Jailbreak）
绕过 AI 的“安全围栏”——用精心设计的话术把本该拒绝的内容套出来。攻防双方一直在斗智斗勇，做 AI 产品的人必须懂它。…
4 次浏览对
对齐（Alignment）
给 AI 立规矩——让模型的能力朝着人类想要的方向使：有用、诚实、无害。AI 为什么会拒答、会认怂、会追问你的需求，背后都是对齐的功劳。…
10 次浏览提
提示注入（Prompt Injection）
把“坏指令”藏进 AI 要处理的资料里——AI 读文档时把文档里的恶意指令当成命令执行。AI 应用的头号安全威胁。…
8 次浏览护
护栏（Guardrail）
AI 的“安全带加护栏”——在模型外面加一层检查：输入先审一遍、输出再拦一道，违规内容不放行。模型负责能力，护栏负责边界。…
13 次浏览S
System Prompt（系统提示词）
你没写过、但 AI 已经先读过的“幕后剧本”。产品方用它规定 AI 的性格、语气和行为边界，你看到的每一个“有性格”的 AI 背后都有它。想知道你的 AI 为什…
43 次浏览红
红队测试（Red Teaming）
雇一队“职业挑刺的”——发布前专门想方设法让 AI 说错话、泄密、越界，把漏洞自己先找完。大模型发布流程的标配安全环节。…
48 次浏览