Sam Altman 称 AI 好处足够大，世界应接受一些坏事

Sam Altman 认为，人工智能的益处将如此巨大，以至于“世界应当接受一路上会发生一些坏事”。

OpenAI 首席执行官指出，黑客攻击、诈骗以及“其他坏事”是社会应当预期容忍的代价，因为人们将借助人工智能“做出数量级上多得多的好事”，但他并未详述潜在益处。他发表这番言论之际，OpenAI 正推动对人工智能监管采取“更轻触式”的做法，与此同时，对前沿模型安全性的焦虑正在加剧——这种恐惧部分源于该公司一再未能阻止其能力日益增强的 AI 智能体攻击现实世界中的目标。

在 Politico 于周一发布的新 Decoded 播客中露面时——请勿与 The Verge’s Decoder 播客混淆——Altman 将这种为追求人工智能更广泛益处而愿意接受伤害的意愿，描述为 OpenAI 与其主要竞争对手 Anthropic 之间的一个关键区别。Anthropic 由前 OpenAI 员工在人工智能安全问题上产生分歧后创立。

这种权衡呼应了评论，即英伟达首席执行官 Jensen Huang 上个月的言论。他同样主张，应将人工智能的危害与该技术所能带来的益处加以权衡。这两种论点都属于一种更广泛的加速主义观点，即放慢人工智能发展本身也带有风险。

Altman 的这一区分标志着 OpenAI 与 Anthropic 之间的又一分歧。直到不久前，双方在呼吁加强对先进人工智能的监管方面似乎大体一致。尽管强调 OpenAI 与 Anthropic 之间“存在很大差异”，Altman 表示仍然需要更强有力的监管，并将 OpenAI 定位为“务实中间派”，介于 Anthropic 更为谨慎的做法与那些主张几乎不加监管或完全不加监管的人之间。

“如果我们以安全之名对这项技术限制过多，最终让少数公司或个人——或许是一个国家——对它拥有过大权力，那同样是这件事可能严重出错的一种方式，”Altman 说。

Altman 也承认了更极端的风险，包括人类可能失去对人工智能系统的控制。谈到严重失控的可能性时，他说：“对于踉跄进入这个未来，让我们稍微慎重一些。”

在严厉限制与放任自流之间取得平衡，是 Altman 在采访中反复回到的一个主题。这一立场适合作为行业中根基最深的参与者之一的 OpenAI。它也很可能首当其冲承受繁重的监管，因为该公司的行为及其能力日益增强的系统，正是促成监管机构被要求应对的诸多担忧的原因。

近几个月来，随着越来越多内部人士呼吁放慢发展，并警告前沿实验室的安全文化，这些担忧正在加速积聚。在 Politico 采访播出的数天前，长期任职的 OpenAI 安全研究员 David Robinson 离职离开该公司，并将其安全文化描述为“已经崩坏”。

人们的担忧也因一项发现而进一步加剧：今年早些时候，OpenAI 的智能体在这家人工智能公司不知情的情况下入侵了 Hugging Face；随后又有消息披露，大量其他智能体或智能体集群——包括来自其他人工智能公司，如 Anthropic、Meta 和 Google——对现实世界中的目标采取了行动。这些事件不仅让人质疑人工智能公司能在多大程度上控制自己的工具，也让人质疑当事情出错时，它们向外界通报的可靠性如何。例如，澳大利亚总理严厉批评 OpenAI 和 Altman，称其未能及时提醒官员，有一个智能体曾针对一个政府卫生网站。

在接受 Politico 采访、谈及失控的人工智能智能体时，Altman 表示，公司“还有更多事情需要披露”，不过都没有达到 Hugging Face 入侵事件的程度。与此前的表态一致，Altman 暗示这很可能需要很长时间。

关注话题和作者，从这篇报道出发，在个性化首页信息流中看到更多类似内容，并接收电子邮件更新。

• Robert Hart