微软CEO Satya Nadella称应假定所有AI模型已被攻破
Satya Nadella says we should assume all AI models are ‘compromised’
微软CEO Satya Nadella在X长文中表示，必须假定模型已被攻破并从一开始隔离，把它当作紧急制动，让授权人员始终能在任务中途暂停或关闭模型。他反对把高度先进的AI当作层层嵌套的黑箱、只对其建议和行动做接受或拒绝，主张建立可隔离、可观察并留下防篡改人类可读证据的体系。
微软 CEO 呼吁给 AI 装上“紧急制动”。
微软 CEO 呼吁给 AI 装上“紧急制动”。
作者 Terrence O'Brien
Oct 10, 2026, 10:10 PM UTC
图片：Cath Virginia / The Verge, Getty Images
Terrence O'Brien
是 The Verge 的周末编辑。他报道科技行业已超过 18 年，对合成器也颇有了解。
在一篇发布于 X 的长文中，微软 CEO 阐述了他对高度先进的 AI 模型所构成危险的看法，以及如何应对这些风险。Nadella 表示，我们不能再接受这样一个世界：把 AI 当作“一套嵌套的黑箱”，对其建议和行动只是简单地接受或拒绝。他呼吁建立一个更透明的系统，使模型能够被遏制、被观察，并留下“防篡改的人类可读证据”。
他的许多建议与我们从业内其他人那里听到的一致：及时披露事件、独立审计、可验证的数据，以及遏制。正是在最后一点上，他似乎比该领域的一些人走得稍远，他说：
我们必须假定模型已被攻破，并从一开始就对其进行遏制。可以把它想象成紧急制动。经授权的人员应始终能够在任务进行中暂停或关闭模型。更先进的模型将需要更先进的遏制技术，而我们需要将这些技术标准化。
遗憾的是，Nadella 在整篇文章中还将 AI 称为“超级智能”。
关注话题和作者，从这篇报道在个性化首页信息流中看到更多类似内容，并接收电子邮件更新。
- Terrence O'Brien
来源：The Verge · AI · theverge.com