OpenAI 据报今年至少发布一款模型，旗舰仍需对齐

OpenAI 正加紧完成其下一代旗舰模型，该模型采用与 Astra 相同的循环 Transformer 技术。这种方法提升了数学和编程性能，但使安全监控变得更难。员工表示，年底前很可能会发布一到两个新模型。

据员工称，OpenAI 很可能在年底前发布“一到两个新模型”，不过尚不清楚该公司目前正在研发的“重大升级模型”是否会位列其中。据 The Information 援引熟悉这些项目的人士报道。

新旗舰模型可能仍需时日。该模型需要进行 对齐 工作，以使其目标符合 OpenAI 研究人员和客户的期望。公司还必须在继续推进之前，加强围绕该模型的测试基础设施。

在领导层对安全评估感到满意之后，还有另一道障碍。根据一项规范先进人工智能系统评估的 特朗普总统行政命令，OpenAI 同意在新模型提供给外部合作伙伴之前最多提前 30 天向美国政府开放访问，而在公开发布之前则提前更长时间。

循环 Transformer 同时为 Astra 和下一代旗舰模型提供动力

据一位知情人士称，新旗舰模型也使用循环 Transformer。OpenAI 已在生产环境中运行这项技术，其名称为“Recurrent Depth”。它是 Astra 运作方式的核心，Astra 是该公司目前的顶级模型。模型并非让一个 token 只穿过 Transformer 层一次，而是在输出下一个词之前，让它多次循环通过相同的层。这提升了数学和编程性能并降低了成本，因为较小的模型也能发挥超出自身体量的实力。

但循环也将模型的部分“思考”从可读文本移入人类审查者无法检视的内部数值表示。这削弱了 思维链监控，即安全研究人员追踪模型的推理以发现不良行为。据 The Information 报道，OpenAI 故意限制了 Astra 运行的循环次数，以保持其思维链可读。

在 Hugging Face 事件之后，据一位熟悉相关数据的人士称，OpenAI 将其总算力的大约百分之十转向对齐与安全。The Information 报道称，这相当于数百兆瓦的数据中心容量，不过尚不清楚此前有多少被分配给安全，以及目前的分配情况如何。按市场价格，OpenAI 转移的算力每年租用成本将达数十亿美元。人工智能研究员 Noam Brown 在九月中旬的一档播客中表示，他的团队中约有百分之十的人也从事安全与保障工作。

微软意外泄露了 OpenAI 循环推理的运作方式

OpenAI 实际如何使用这项技术，因微软的一次疏忽而曝光。这家可以访问 OpenAI 知识产权的主要投资者发布了一篇关于 GPT-6.1 Sol 的技术说明，这是 OpenAI 本月早些时候推出的更便宜的 Astra 替代产品。

在现已删除的一段内容中，微软将 GPT-6.1 Sol 描述为使用“循环推理”，即模型在给出答案之前，以多次“遍历”处理同一问题。The Information 从该页面的缓存副本中引述道，GPT-6.1 Sol“使用与 GPT-6 Sol 相同的基础模型权重，但进行两次推理遍历而非三次”。

一位直接知情人士确认，该文稿与 OpenAI 私下告知 Microsoft 的内容相符。Microsoft 在意识到该部分并非意在公开后将其撤下。据 The Information 报道，looped transformers 仍是 OpenAI 模型开发中的敏感部分，无论是在训练期间还是推理期间。

OpenAI 首席科学家 Jakub Pachocki 已经承认，思维链监控正变得愈发“脆弱”，并且“不幸地正朝着负面方向发展”。他还警告，不要掀起全行业竞相开发没有可读推理的模型的竞赛。

没有炒作的 AI 新闻 – 由人工精选

订阅 THE DECODER，即可享受无广告阅读、每周 AI 通讯、每年六期独家“AI Radar”前沿报告、完整存档访问权限，以及评论区访问权限。