提示缓存（Prompt Caching）

一句话理解

API 的“团购价”——反复使用同一段长提示词时，命中缓存的部分按一折左右计费，是长提示用户的省钱大招。

定义

提示缓存（Prompt Caching）指 API 服务把请求中重复出现的前缀（通常是长系统提示词或固定文档）的计算结果缓存起来，后续请求命中时以大幅折扣计费并降低延迟，各家主流 API 均已提供此能力。

你会在哪遇到它

读 API 定价页的“缓存命中价格”一栏时；Agent 产品高频调用同一长提示词的成本优化方案；RAG 应用把固定知识库文档放进前缀吃折扣。

背后的原理

长提示词前缀的中间计算结果每次都完全相同，重复计算就是浪费。服务端把前缀结果存下来，后续请求前缀一致就直接复用。命中条件比较苛刻：前缀要逐字一致、缓存有时效、超时失效。所以优化口诀是：把不变的内容放前面，多变的内容放后面。

和相近概念的区别

1 与 KV 缓存：KV 缓存是单次请求内的机制，提示缓存是跨请求复用的商业功能。 2 与批处理接口：批处理是离线慢速换半价，提示缓存是在线又快又便宜，两者可组合。 3 与浏览器缓存：思想同源，一个缓存计算结果，一个缓存网页文件。

常见误区

1 命中缓存答案就不变——缓存的是计算过程不是答案，输出仍由完整提示与采样决定。 2 缓存随便就能命中——前缀差一个字就失效，把动态内容放前面会天天全价。 3 只省线不省时间——首字延迟也显著下降，长提示场景的体验改善同样明显。