跳到正文
掘金· 杨杨杨大侠·· 3 小时前AI 评分12

RAG、记忆、上下文,这几个东西到底怎么串起来?

AI 导读

文章用一次完整对话拆解 RAG、向量数据库、混合检索、短期与长期记忆、工具调用和上下文窗口之间的关系,说明用户说一句话背后可能调用四次 LLM,若再用 LLM 做摘要和提取记忆则达六次。文中举例十万段内容先取 20 个候选、最终留 5 段、参考资料不超过 4,000 token,并强调这些数字只是举例,不是默认最佳配置。

来源:掘金 · juejin.cn