护
护栏(Guardrail)
AI 的“安全带加护栏”——在模型外面加一层检查:输入先审一遍、输出再拦一道,违规内容不放行。模型负责能力,护栏负责边界。…
6 次浏览注
注意力变体(GQA 与 MLA)
注意力的“省显存改款”——GQA 分组共享缓存、MLA 低秩压缩缓存,DeepSeek 与 Llama 各押一条路,推理成本的关键变量。…
39 次浏览G
GPU(图形处理器)
AI 时代的电力——本为游戏画面而生的芯片,因擅长海量并行计算成了大模型的标配引擎。看懂 GPU,才算看懂算力从哪来。…
26 次浏览数
数学评测(GSM8K 类)
给 AI 出数学卷子——从小学应用题、奥赛到研究级难题,答案唯一、自动判分,是检验模型“真推理”能力的首选考场。…
43 次浏览