微软 CEO Satya Nadella 称 AI 模型需要紧急制动

简讯

发布：

2:47 PM PDT · October 10, 2026

微软首席执行官 Satya Nadella 是最新一位就如何改进 AI 安全发表长篇见解的科技高管。

在周六上午于 X 发布的一篇帖子中，Nadella 写道，现在是时候“退一步，评估”AI 的“信任架构”了。

“我们不能把 Super Intelligence 当作一组嵌套的黑箱，只是简单地接受或拒绝它的建议、答案和行动，”Nadella 写道，他使用了特朗普政府偏好的 AI 术语。 

正如 Nadella 所概述的，这种方法“意味着将模型与编排其工作的 harness 分离开来”，以及“将控制和保障措施外部化”。他还呼吁用“防篡改的人类可读证据”记录“每一次有意义的模型行动”，并建立始终让“经授权的人”能够“在任务中途暂停或关闭模型”的系统。

“我们必须假设模型已被攻破，并从一开始就对其进行遏制，”他说。“可以把它想象成紧急制动。”

Nadella 的评论发表之际，领先的 AI 公司正承认越来越多它们似乎失去了对自己模型的控制的事件，而这发生在Anthropic 首席执行官 Dario Amodei 发布了一项计划、主张更谨慎地发展 AI 之后。