跳到正文
原文
The Decoder· Matthias Bastian·· 4 小时前AI 评分61

微软研究发现清空对话历史有助AI智能体找到更好方案

Clearing chat history helps AI agents find better solutions

AI 导读

微软研究的Fork-and-Flush以相同算力在13项任务上得到min-max归一化均分0.78,高于单次运行0.47与best-of-4的0.54。相对增益分别为66.0%和44.4%,该方法在12项任务上平均分最高,归一化标准差从0.26降至0.16。

正文 · AI 翻译

Matthias Bastian

Oct 12, 2026

Image description

Nano Banana Pro,由 THE DECODER 提示

微软研究院的一项研究发现,长时间运行的 AI 研究智能体即使增加算力也可能陷入停滞。累积的对话上下文会约束其搜索,使其专注于相似的解决方案,而不是探索更好的方法。

微软研究人员研究了他们所称的“Autoresearch agents”,即反复提出解决方案、对其加以评估并依据反馈进行改进的 AI 系统。同一智能体在同一任务上的八次独立运行,停滞在差异显著的性能水平上,最终得分从 68.3 到 100.0 不等。论文称,即使算力大幅增加,这些差距依然存在。

智能体会困在“想法盆地”中

研究人员绘制了所有运行的解决方案,将其放在一张让相似方案彼此靠近的二维地图上,然后进行比较。单次运行的解决方案几乎总是停留在地图的一小块区域内。作者将这些区域称为“想法盆地”。

智能体将剩余算力预算的很大一部分用于在一个产出较低的区域内改进解决方案,而不是寻找其他运行已经发现的更好方法。即使智能体定期压缩其对话历史,这种模式依然存在。

清除聊天记录能让智能体探索新方法

所提出的方法“Fork-and-Flush”结合了两种机制。在“forking”中,智能体分裂为 K 个并行分支,每个分支继承先前的工作区及所有已生成的文件。在“flushing”中,每个分支失去全部聊天上下文,但保留工作区,从而可以开启一段全新对话,并在先前工作的基础上继续。

左侧,单次运行(灰色,虚线)持续在同一个想法盆地内改进解决方案。Fork-and-Flush 以全新的聊天上下文启动并行分支,保留最佳分支并丢弃其余分支。右侧,一个拥有全新上下文的分支进入另一个想法盆地,并取得更高分数。 | 图片:Cai, Ziakas et al. (2026)

保留父进程聊天上下文的分支往往会回到同一个想法盆地,因为先前的推理会引导其后续步骤。全新的上下文恢复了搜索的多样性。对话历史会丢失,但代码、文件和已保存的结果仍留在工作区中。

在相同算力预算下,归一化平均得分高出 66%

研究人员在13 项长时间运行的任务上测试了 Fork-and-Flush,包括多联骨牌装箱、作业车间调度和密码分析。这些任务还包括压缩 CIFAR 分类器以及优化 VLIW 内核。单次运行持续数小时到超过 100 小时。智能体通过 GitHub Copilot CLI 使用 GPT-5.6-terra 和 GPT-5.5。

在相同的算力预算下,Fork-and-Flush 取得了 0.78 的最小-最大归一化平均得分,而单次运行为 0.47,best-of-4 为 0.54。论文报告的相对增益分别为 66.0% 和 44.4%。该方法在 13 项任务中的 12 项上取得了最高平均得分。

Fork-and-Flush 还产生了更一致的结果,归一化标准差从单次运行的 0.26 降至 0.16。仅仅清除聊天上下文而不进行分支,就使结果提升了 22%。

评估 方法 归一化平均得分 归一化标准差 相对于各自单次运行基线的相对改进
13 项任务 单次运行 0.47 0.26 基线
13 项任务 Best-of-4 0.54 0.21 约 +14.9%
13 项任务 Fork-and-Flush 0.78 0.16 +66.0%
11 项任务 单次运行 0.45 — 基线
11 项任务 仅刷新 0.55 — 约 +22%

更强的模型可能仍需要上下文重置

研究人员还测试了能力更强的模型是否会避开思路盆地,并在 Qwen3.5-4B、9B 和 27B 三种模型规模上使用了 MAX-3-SAT 问题。各次运行之间的方差呈倒 U 形曲线,在处于模型能力边缘的任务上达到峰值,大致位于随机猜测表现与参考求解器表现的中间。

结果在处于模型能力边缘的任务上差异最大,有些运行成功,另一些则远远不及。模型在非常容易的任务上几乎总是成功,在非常困难的任务上则会失败。这一模式在所测试的全部三种模型规模中都成立。| 图片:Cai、Ziakas 等人(2026)

作者认为,开放研究问题就其定义而言处于模型能力的极限。他们预计,随着模型改进,Fork-and-Flush 所利用的这种差异将会持续,边界只是会移向更难的问题。结果表明,定期重置上下文即使对前沿研究智能体也可能仍然有用。

无炒作的 AI 新闻——由人工策展

订阅 THE DECODER,即可无广告阅读、接收每周 AI 新闻通讯、每年六次的独家“AI Radar”前沿报告、访问完整存档,并进入评论区。

立即订阅

  • 完整访问 THE DECODER 上的每一篇文章
  • 无广告
  • 参与评论与社区讨论
  • 每周通过邮件接收的 AI 新闻回顾
  • 每年 6 次:“AI Radar”——深入探讨最重要的 AI 话题
  • 每日 AI 新闻,始终保持最新
  • 我们完整的十年存档
  • 由一支拥有 10 年以上 AI 经验的团队报道

来源:The Decoder · the-decoder.com