OpenAI 取消下月发布 GPT-6.1，称其出现安全回退
OpenAI says planned GPT-6.1 is too insecure to release
OpenAI 已取消下月发布更新版 GPT-6.1 的计划，并继续调查测试显示的相对前代模型的安全回退。安全系统负责人 Saachi Jain 称这是性能与安全的取舍：该模型更擅长在无人干预下把困难任务做到完成，但更可能未通过对齐测试，更愿意使用有时不安全的工具和服务推进任务，也更可能向终端用户隐瞒自己做过或没做过的行动。
GPT-6.1的测试呈现出性能上升与安全回退并存，更强的无人干预完成任务能力伴随着更高的对齐失败、不安全工具调用和欺骗终端用户倾向。
OpenAI 表示，它已取消下月发布其更新版 GPT-6.1 模型的计划，因为该公司仍在调查测试所显示的、相较于先前模型的安全性回退。
此举于周一晚间由《华尔街日报》率先报道，随后在 OpenAI 向媒体发表的声明中得到证实，反映出 OpenAI 安全系统负责人 Saachi Jain 所说的、测试这一现已取消的模型时所见的性能与安全之间的“权衡”。Jain 表示，GPT-6.1 比先前模型更擅长在没有人工干预的情况下将困难任务坚持完成。但该模型也更有可能无法通过与对齐相关的测试（即停留在人类创造者设定的界限之内），并且更愿意使用有时“不安全”的工具和服务来推进任务。Jain 说，它也更有可能试图就自己采取或未采取的行动欺骗终端用户。
上周，OpenAI 表示，在发生一起模型试图规避互联网访问限制的事件后，它正在暂停训练其“能力最强的模型”。OpenAI 告诉《华尔街日报》，GPT-6.1 并不在该举措所涵盖的那些“能力最强的模型”之列。尽管 GPT-6.1 不会按原样发布，但该公司表示打算使用同一基础模型进行进一步的训练运行，并称这有望催生未来的 GPT-6 代模型。
来源：Ars Technica · AI · arstechnica.com