跳到正文
掘金· 用户别睡觉·· 17 小时前精选AI 评分79

自建中文 PDF RAG 接入 Redis 缓存与 RAGAS 评测:缓存提速仅 27%、重排成瓶颈、评委抖动

自己搭的中文 PDF RAG 接了 Redis 缓存、跑了 RAGAS,以为能写“提速多少、准确率多少”,结果两个都没按预期来。

AI 导读

作者在开源项目 tiered-rag-service 中搭建中文 PDF RAG 服务,实测 Redis LLM 缓存与 RAGAS 评测。缓存实测 9 组样本显示命中仅降 27% 延迟(4623→3369 ms),因重排占耗时 99.8%;RAGAS 3 题对比发现混合检索+重排耗时 220 倍却无质量增益,且评委模型同源导致打分抖动。

推荐理由

实测缓存命中仅提速 27%、RAGAS 评测暴露重排开销与评委抖动,适合正在落地 RAG 的开发者参考避坑。

来源:掘金 · juejin.cn