通俗易懂的 AI 术语解释,按字母索引快速查阅。 共 2 条 · 关键词「KV缓存」
注意力的“省显存改款”——GQA 分组共享缓存、MLA 低秩压缩缓存,DeepSeek 与 Llama 各押一条路,推理成本的关键变量。…
AI 时代的电力——本为游戏画面而生的芯片,因擅长海量并行计算成了大模型的标配引擎。看懂 GPU,才算看懂算力从哪来。…