纳德拉呼吁为AI设紧急制动

2026年10月11日，TechCrunch报道，微软首席执行官萨蒂亚·纳德拉周六在X发文，称现在应退一步评估人工智能的信任架构，不能把超级智能当成层层嵌套的黑箱来简单接受或拒绝。他提出把模型与编排其工作的harness分开，将控制与防护外置；为每一次有意义的模型行动留下防篡改、人类可读的证据；并确保授权人员能在任务中途暂停或关闭模型。该报道将表态概括为AI模型需要紧急制动。同日稍后，The Verge报道称，纳德拉在X长文中表示，必须假定模型已被攻破并从一开始隔离，把它当作紧急制动，让授权人员始终能在任务中途暂停或关闭模型；他反对只对高度先进AI的建议和行动做接受或拒绝，主张建立可隔离、可观察并留下防篡改人类可读证据的体系。早先报道侧重模型与harness分离及外置控制，后续报道则突出“假定已被攻破并先行隔离”。目前公开事实限于上述发文的媒体转述。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。