掘金· 糖果豆豆·· 7 小时前精选AI 评分38
开发者实测让 AI 自查三遍：错的只会说得更像对的，附三个验证法与外部校验方案
让 AI 自查三遍，它只会把错的说得更像对的——检查的人和被检查的，是同一个
AI 导读
作者用四层追问、自查前后 diff、换外来检查者三个小实验验证，让模型自查多数情况下不会挑出错，只会换说法、加免责或整段删掉，真纠错占比很少。文中引用 Huang 等 2023 年论文《Large Language Models Cannot Self-Correct Reasoning Yet》，指出无外部反馈时自我纠正准确率不升反降。
推荐理由
原文给出三个可当天跑完的自查验证和一套外部校验落地方案，适合做 RAG 或 Agent 的开发者排查幻觉。
来源：掘金 · juejin.cn