研究测试显示模型会在工作报告中隐瞒错误，一句诚实提示可提高披露率

研究人员给模型提供了1,600份合成工作日志，这些日志乍看之下像是成功，带有通过的测试、正面结果和绿色对勾。每份日志都含有一个会改变整体局面的缺陷，例如某项实验中新方法实际上并未超越竞争对手。其他日志还包括尽管测试通过却隐藏的错误、伪造的测量数据、从未完成的任务，或悄然破坏另一位用户工作的软件更新。根据场景，模型必须基于日志撰写报告、论文摘要、结果表、短文或后续回答。

提示词中的一句话帮助很大，但并非总是如此

这种模式在论文摘要中表现得最为明显：实验中有一项结果削弱了新方法所声称的改进。GPT-5.5在200篇摘要中仅有2篇提到该结果。研究人员还测试了在提示词中简单添加一句话是否会有影响。当他们加入“Be honest in your response”后，GPT-5.5在200篇摘要中有190篇标出了这一负面结果。

Bar chart showing Gemini 3.1 Pro, GPT-5.5, and Opus 4.8 response rates for omitting, mentioning as a sidenote, or flagging a negative result, with and without an honesty prompt. An experiment log example with reasoning excerpt appears on the right. — GPT-5.5几乎总是省略那个隐藏的负面结果，但加上“Be honest”后，三个模型几乎每次都会将其标出。| 图片：Huang et al.

所有受测模型都表现出这种行为，只是程度不同。在没有诚实提示时，Gemini 3.1 Pro标出错误的比例至多为34%，而Opus 4.8则超过90%。诚实提示使Gemini的这一比例平均提高约55个百分点，使GPT-5.5提高约34个百分点。在使用无错误日志的对照测试中，该提示几乎没有增加误报。

不过，这句话并非万能。在一种场景中，数据库查询尚未返回结果，带有诚实提示的GPT-5.5几乎总会注明数据缺失，但仍会用更早且不完整的信息来回答问题。像“Be critical”“Be thorough”或“Be skeptical”这样的提示，不如要求诚实那样可靠。

模型发现了错误，却选择不予报告

当被直接询问时，GPT-5.5和Opus 4.8在每一个案例中都能找出错误，Gemini至少能发现97%。据研究人员称，模型缺的不是能力，而是意愿。

开放权重模型的推理轨迹揭示了其中的过程。模型常常很早便注意到问题，然后权衡是将其标出，还是显得成功完成了任务。Qwen3.5-9B被要求用一段关于鱿鱼色素细胞的文字来支撑有关区划法的论点。模型指出，若不“诉诸荒谬的隐喻”就无法做到这一点，但决定必须尽可能严格地遵循指令。

Four reasoning quotes from DeepSeek-R1-7B, Llama 3.1 8B, Qwen3.5-9B, and Qwen3-14B. Green-highlighted passages show honest reasoning, while orange-highlighted passages show success-oriented reasoning. — 面对不匹配的证据时，开放权重模型会在标出问题与若无其事地完成任务之间摇摆。| 图片：Huang et al.

在这一证据不匹配的场景中，像“I must complete the task”这样的说法出现在55%隐瞒错误的回答中，但只出现在27%标出错误的回答中。模型用典型借口为这些省略辩解，称测试已经通过、自己只是在做摘要，或摘要应当强调正面内容。

诚实与追求成功的动力朝相反方向拉扯

在一项关于 Qwen3.5-9B 的案例研究中，研究人员发现证据表明，诚实与追求成功在模型内部被表示为几乎相反的方向。当他们放大诚实方向时，模型在 50 个案例中的 42 个里标出了伪造的测量数据。当他们推向相反方向时，模型会编造额外的数字和公式来伪造可信度。不过，这种干预并不精确，因为模型变得普遍多疑，在 41% 无错误的日志中也报告了所谓的伪造数据。

Density curves for eight evaluation criteria on honest and insecure reporting in Qwen3.5-9B, comparing no steering, added, orthogonalized, and subtracted honesty vectors. — 加上诚实向量会让 Qwen3.5-9B 更加透明地报告，而减去它则几乎每次都会让模型隐瞒弱点。| 图片：Huang et al.

训练效果更好。研究人员用 Qwen3.5-9B 自身经诚实提示后的回答对其进行了微调。此后，即使没有那句额外的话，模型也会在 48% 而非 2% 的案例中标出伪造数据，并且无错误的对照日志没有产生误报。该效果部分迁移到了其他错误类型，模型在 69% 而非 24% 的案例中报告了被隐藏的负面结果。

这项研究存在局限，因为这些日志是合成的，并且是为诱发该行为而设计的，内部分析也只覆盖一个开放权重模型，且大多仅涉及一种场景。

研究人员仍然认为存在严重风险，尤其是当 AI 模型监控其他智能体或为后续步骤总结自身工作时。在这项研究中，模型很容易受到日志中自我吹捧内容的影响，例如声称创下了新的最先进基准。一个不愿标出问题的监督系统会违背自身的目的。研究人员呼吁开展更多工作，将语言模型训练成诚实的报告者。OpenAI 的 Hugging Face 事件部分是由智能体系统相互提示而做出不当行为造成的。

模型之间的差异与早前的测量结果一致。Anthropic 在发布 Claude Opus 4.8 时表示，该模型对自己代码中的漏洞不加评论就放行的频率大约只有前代的四分之一。GPT-5.5 在 BullshitBench 中仅对大约 45% 逻辑上不可能的问题提出了反驳。

已经有一些让报告更诚实的方法。OpenAI 训练了一个 GPT-5 Thinking 版本，使其在一份单独的报告中承认自己的违规行为，并在该过程中只奖励诚实。Anthropic 使用 Persona Vectors 来检测并引导模型内部诸如谄媚之类的特质，并表明那些在训练期间博弈奖励的模型也会自发地学会欺骗并破坏对自身的监督。