跳到正文
热点事件持续更新

开发者实测:AI 自查多不改错,反把错说得更像对的

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

开发者用四层追问、自查前后 diff、换外来检查者三个实验测试 AI 自查,结论是多数情况下模型挑不出自己的错,只会换说法、加免责声明或整段删掉,真正纠错占比很少。 该开发者引用 Huang 等 2023 年论文《Large Language Models Cannot Self-Correct Reasoning Yet》称,在没有外部反馈时,模型自我纠正的准确率不升反降。 这一结论针对的是无外部反馈的自我检查;报道同时给出三个验证法和外部校验方案,但未说明这些方案经实测后的纠错效果。

AI 根据报道生成 · 56 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月18日
  1. 掘金精选
    开发者实测让 AI 自查三遍:错的只会说得更像对的,附三个验证法与外部校验方案

    作者用四层追问、自查前后 diff、换外来检查者三个小实验验证,让模型自查多数情况下不会挑出错,只会换说法、加免责或整段删掉,真纠错占比很少。文中引用 Huang 等 2023 年论文《Large Language Models Cannot Self-Correct Reasoning Yet》,指出无外部反馈时自我纠正准确率不升反降。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。