不明白为什么很多人用「缓存命中率」作为 agent 的性能评估参数

dpsk 应该是把 system prompt 直接放到每次请求的开头了，这样每次增长的计算实际上只有用户新发的请求，剩下全部可以 prefix cache hit ，导致最后命中率 99%，其实没那么多魔法，不过 dpsk 应该这次在训练 sft 的阶段就对这种 prompt 方式进行优化了

@ReinXD ds 主要的不同时缓存失效时间长。假设第 i 次 prompt 的输入 等于 Ai ，存在关系 A(i+1) = A_i + delta_i, 极限情况当交互次数趋向∞，那么缓存命中必然趋向 100%。 似乎高中数学遗忘的人很多

我不在乎这个，但用户对价格敏感是什么很难猜的东西吗。 你有研究过 ds4f 之类的热门模型的缓存占比对价格的影响可以分享一下。

另外这你都能上升到别人智商有问题，其实也看不出来你有多聪明…

工具的使用单价你不在乎？

那你很有钱咯

@ReinXD 我记得主流 harness 都是这么干的？

不能当作一个评价维度么？你是免费不花钱用的么？做的不好的，也能“必然趋向 100%”，高中数学还挺天真的

确实,除非故意使坏,不然这缓存命中率就低不了.

但是还是有一些优化技巧的,省一点也是真金白银.

这不 deepseek 都涨价了么.

@0xnycth 主楼一点不看么？ 说了和任务场景有关系

@lovelyxiaod 这可是有记录的，A 社曾经给非 anthropic 的 api 的请求在头部增加了一个动态码