长会话模型选型：缓存命中率如何决定真实成本

作者在运行长会话 Agent 时，因盲目追求输入输出单价更低的模型，导致账单反而增加了 115%。通过复盘账单发现，在长会话中缓存命中率高达 91.4%，而该模型的缓存命中单价远高于原方案，导致成本结构失衡。作者总结出临界点公式，指出短任务应关注 token 单价，而长任务必须优先看缓存单价。建议开发者在成本监控中必须核对平台明细账单，并警惕频繁切换模型导致的缓存失效损失。