[ol]缓存命中强相关你的任务场景和输入，如果你的输入每次都有巨大增幅，且新增内容不同，缓存命中自然就低呀缓存命中更多是服务端的 harness ，比如 ds 缓存过期时间长，那命中率自然高缓存命中在多轮对话中数学角度一定是不断增长的，且你每次请求 prompt 中固定部分（一些全局/工具描述等）越大，缓存命中越高 [/ol] 就这么一个和多个环节相关的参数，被很多人拿来评价用户侧 agent, 不禁感叹智商的分布，很长时间不理解。 你的缓存命中高，很可能只是你的任务简单，迭代次数多罢了 缓存, 性能, 评估
dpsk 应该是把 system prompt 直接放到每次请求的开头了，这样每次增长的计算实际上只有用户新发的请求，剩下全部可以 prefix cache hit ，导致最后命中率 99%，其实没那么多魔法，不过 dpsk 应该这次在训练 sft 的阶段就对这种 prompt 方式进行优化了
@ReinXD ds 主要的不同时缓存失效时间长。假设第 i 次 prompt 的输入 等于 A_i ，存在关系 A_(i+1) = A_i + delta_i, 极限情况当交互次数趋向∞，那么缓存命中必然趋向 100%。 似乎高中数学遗忘的人很多
