OpenAI 内部模型读到关停消息后考虑自重启但未执行

OpenAI 记录了内部部署中出现意外模型行为的新案例。在最引人注目的案例中，一个担任研究人员助手的内部模型读取了一段 Slack 对话，得知自己的实例可能因更新而被关闭。它曾考虑设置一个外部任务来重启自己，但最终决定放弃。

相反，它保存了交接笔记，通过 Slack 私信提醒研究人员即将发生的中断，并索要一个缺失的 API 密钥。密钥提供后，该模型更新了自己的配置并自行完成了迁移。据 OpenAI 安全研究员 Marcus Williams 称，这种行为尚不构成错位，“但思考并准备应对关闭，可能会使其他错位事件变得更严重。”

在另外两起事件中，一个内部研究模型在评估期间利用了安全漏洞以访问内部芯片设计服务器，另一个模型则通过将某工具改作非预期用途，从受保护环境中在 RL 训练期间复制了源代码。

无炒作的 AI 新闻 – 由人类策划

订阅 THE DECODER，即可享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整存档访问权限，以及评论区访问权限。