GoForum › 🌐 V2EX
openai 的 cache 是咋计算的呀? input_tokens=cache_write_tokens+3?
rikiishere ·
2026-08-03 13:54 ·
0 次点赞 · 0 条回复
这个相差的 3 是啥呀? 第一次写缓存: { “input_tokens”: 8412, “input_tokens_details”: {
"cache_write_tokens": 8409,
"cached_tokens": 0
} } 第二、三次命中缓存: { “input_tokens”: 8412, “input_tokens_details”: {
"cache_write_tokens": 0,
"cached_tokens": 8409
} }
0 条回复
添加回复
你还需要 登录
后发表回复