开发者实测:AI 自查多不改错,反把错说得更像对的
热点事件持续更新
开发者实测:AI 自查多不改错,反把错说得更像对的
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
开发者用四层追问、自查前后 diff、换外来检查者三个实验测试 AI 自查,结论是多数情况下模型挑不出自己的错,只会换说法、加免责声明或整段删掉,真正纠错占比很少。 该开发者引用 Huang 等 2023 年论文《Large Language Models Cannot Self-Correct Reasoning Yet》称,在没有外部反馈时,模型自我纠正的准确率不升反降。 这一结论针对的是无外部反馈的自我检查;报道同时给出三个验证法和外部校验方案,但未说明这些方案经实测后的纠错效果。
AI 根据报道生成 · 56 分钟前更新
最新进展10月18日 11:40
开发者实测让 AI 自查三遍:错的只会说得更像对的,附三个验证法与外部校验方案报道时间线
沿着报道,了解事件的不同侧面。
10月18日
- 掘金精选开发者实测让 AI 自查三遍:错的只会说得更像对的,附三个验证法与外部校验方案
作者用四层追问、自查前后 diff、换外来检查者三个小实验验证,让模型自查多数情况下不会挑出错,只会换说法、加免责或整段删掉,真纠错占比很少。文中引用 Huang 等 2023 年论文《Large Language Models Cannot Self-Correct Reasoning Yet》,指出无外部反馈时自我纠正准确率不升反降。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。