跳到正文
Hacker News 首页· ccgibson·· 5 小时前AI 评分34

Neuralwatt 分析一个月流量:不同 agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间

Why harnesses matter for energy (and token) efficiency

AI 导读

Neuralwatt 联合创始人兼 CEO Chad Gibson 分析了 2026 年 9 月 8 日至 10 月 7 日一个月自家云上的流量,发现不同 agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间,92% 缓存率意味着每 100 个 token 有 8 个要重算,是 97% 缓存率时的约 2.7 倍 prefill 工作量。

来源:Hacker News 首页 · neuralwatt.com