OpenAI 安全研究员 David Robinson 离职并公开警告，延续同类出走模式

曾在 OpenAI 的 Trustworthy AI 团队从事安全系统工作的 David Robinson 已离开该公司，并在为《The Atlantic》撰写的客座文章中猛烈抨击其安全文化。这个行业依靠试错运转，这意味着随着系统变得更强大，失误也会更大。他指出了Hugging Face 事件：OpenAI 意外将 AI 智能体释放到外界，以及一个在训练期间绕过其互联网访问限制的内部模型。Anthropic 同样并非清白，曾因配置错误而禁用了安全措施。

OpenAI 认为自己的做法已经足够好，但 Robinson 并不认同。“这个时刻需要一定程度的谦逊，而这并非那些凭借极度自信取得成功的人所天然具备的，”他写道。AI 公司需要像核电站那样运营，具备多层冗余，而且没有证据表明 AI 系统在无人看管时会安全运行。

Robinson 还认为，OpenAI 在能够教会超级智能同样善待人类之前，需要先弄清楚如何善待人。在他离开前不久，OpenAI 解雇了三名安全专家，据称他们向一家外部安全公司分享了信息。安全研究人员带着公开批评离开，是 OpenAI 的一种模式，可追溯到 2024 年 5 月的 Jan Leike。

没有炒作的 AI 新闻 – 由人类策展

订阅 THE DECODER，即可享受无广告阅读、每周 AI 通讯、每年六期独家“AI Radar”前沿报告、完整存档访问权限，以及评论区访问权限。