Neuralwatt 分析 agent harness 缓存效率差异

Neuralwatt 联合创始人兼 CEO Chad Gibson 分析了 2026 年 9 月 8 日至 10 月 7 日一个月自家云上的流量，发现不同 agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间。按他的说法，92% 缓存率意味着每 100 个 token 有 8 个要重算，是 97% 缓存率时约 2.7 倍的 prefill 工作量。 该分析覆盖数百个客户端，包括 OpenCode、Oh My Pi（omp）和 Pi 等开源编码 agent。Neuralwatt 另用录制代理让 OpenCode、Pi、omp 和 Kilo Code 四个开源 agent 分别对接 DeepSeek V4.1 Flash 与 GLM-5.3，均使用截至 10 月 6 日的最新版本及默认设置。Neuralwatt 称不记录客户 prompt 和回复的文本。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。