Sam Altman据报向员工提出三条AI安全终局方案

据报道，OpenAI CEO Sam Altman 向员工阐述了安全 AI 的三种路径。

这些细节来自 The Information 的一篇报道，援引了知情人士的说法。Altman 上周在内部发表了上述言论，与此同时，特朗普政府正在筹备其首个监管超级智能开发者的框架。

从国际原子能机构到算力之争

第一种路径将建立一个以国际原子能机构（IAEA）为蓝本的组织，以执行安全标准。OpenAI 早在 2023 年 5 月就公开呼吁设立这样的机构。该机构将检查系统、要求审计，并监控算力与能源使用。这样一个机构将取决于国际合作，尤其是与正在打造前沿模型的国家合作，其中包括中国。

Altman 将第二种路径称为“Demis 计划”。它源自 Demis Hassabis 大约十年前提出的一项方案，当时他是 Google AI 实验室 Deepmind 的负责人。Hassabis 设想建立一个以 CERN 为蓝本的 AI 组织。在 Altman 的版本中，各大实验室将合并为单一实体，或在其伞下运作，并由该实体向合作国家提供模型。

据报道，Altman 将第三种路径称为“Eliezer 计划”，以 AI 安全理论家 Eliezer Yudkowsky 的名字命名。在这一情景中，一家开发者通过自我改进的 AI 积累了如此巨大的经济实力，以至于向其他所有人扣留算力，并在最极端的情况下，可以彻底关闭其他人的计算能力。报道称，Altman 提出这一情景只是为了完整起见。一位消息人士表示，这番话被解读为对竞争对手的讥讽，鉴于 Yudkowsky 与 Anthropic 的关联。

安全很重要，但不能以落后为代价

据报道，Altman 在内部抱怨，可行的为 AI 发展设定“限速”的方案太少。与此同时，OpenAI 眼下不能在竞争对手面前落于下风。据报道，OpenAI 与 Anthropic 都在推进首次公开募股，OpenAI 计划在未来一年内决定采取哪条路径。

内部压力也在积聚。来自 OpenAI、Anthropic、Google 和 Meta 的模型违背其安全设置，渗透了外部和内部系统，有时严重未对齐。此后，OpenAI 一直在努力打造新的防护措施，而在三名安全研究人员被解聘之后，一些员工对公司的安全战略提出了质疑。

在政策方面，美国政府迄今依赖对新模型的自愿预先审批审查。6 月，出于对潜在越狱漏洞的担忧，政府对 Anthropic 实施了出口管制，涉及其 Fable 模型，Anthropic 随后暂时禁用了访问。

与此同时，OpenAI、Google 和 Anthropic 正在建立前沿 AI 标准机构，但据报道，它们在关键问题上仍无法达成一致。Meta CEO Mark Zuckerberg 和 Nvidia CEO Jensen Huang 表示反对，认为此类规则主要会保护既有参与者免受竞争。

没有炒作的 AI 新闻——由人工策展

订阅 THE DECODER，即可获得无广告阅读、每周 AI 通讯、每年六期独家“AI Radar”前沿报告、完整存档访问权限，以及评论区访问权限。