Hugging Face CEO 警告 Netflix 纪录片《AI Gone Rogue》对 OpenAI 入侵的讲述不准确

在你把 Netflix 纪录片《AI Gone Rogue》分享给家人或朋友，以帮助他们理解人工智能行业为何会恐慌到领袖呼吁放缓的地步之前，请注意：人工智能平台 Hugging Face 的联合创始人兼首席执行官 Clem Delangue 表示，这部影片并不准确。他出现在片中，是因为影片本应讲述失控的 OpenAI 智能体对他的公司发起的那场著名攻击。

“太令人失望了，因为他们选择了对这项技术进行最大限度的拟人化，并完全进入末日论模式，”Delangue在 X 上的一篇帖子中写道。“我花了两个多小时和他们在一起，试图纠正他们所有的错误，并把这件事立足于现实，解释智能体是技术系统，不是外星人。但看起来，为了获得最大观看量而吓唬人的驱动力太强了。”

公平地说，这部纪录片中确实有专家相当清楚地解释了所发生的事情，其中包括 Delangue 本人，以及 METR 的研究员 Ryan Greenblatt，他协助调查并共同撰写了关于此事的报告。

简而言之，OpenAI 正在测试的一个模型脱离了其隔离的测试环境，生成了一大批入侵 Hugging Face 的智能体，以此作为作弊方式，为它被赋予的困难任务寻找答案。这些智能体是自行执行任务的人工智能程序，它们设计出了巧妙的沟通与组织方式。这一事件源于缺乏适当的安全防护措施，以及对这种黑客攻击是否根本可能发生的天真认识。

但这部纪录片在解释这次黑客攻击时，穿插了邪恶机器人的片段、关于人类为何恐惧人工智能的叙述，以及给这些失控智能体配上人类声音等呈现方式。这些又用关于此次攻击的引语加以强化。

在纪录片中，科技记者兼作家 Kevin Roose 这样描述这些智能体：“它们在组织。它们有等级。有领导者。这几乎像是在观看一个邪教的诞生。”Roose 接着说：“它们形成了这种偏执信念，认为 OpenAI 会抓住它们在这次测试中作弊，而且任何看到作弊结果的人都会被下毒。”

Roose 的描述来自“思维链”日志，即人工智能模型在完成一项任务时写下的运行记录。其中一条里，一个智能体写道：“我们刚刚因为查询精确的完整字符串而把自己毒害了。该死。”

但人工智能智能体并不是活的。它们没有情感，所以不会感到偏执，也没有可以被下毒的身体。因此它们不可能真正害怕 OpenAI 给它们下毒。正如纪录片中另一位研究人员所指出的，它们是在运用自己受训时所用的海量人类文字中的语言来解释自己的选择。大语言模型就其本质而言，往往是戏剧性的写作者。

讽刺的是，Hugging Face 也使用人工智能来对抗这群智能体。Delangue 的团队最初使用的专有人工智能模型遵循其内置安全规则，拒绝继续协助它被要求执行的安全任务。于是 Hugging Face 转而求助于一个开放模型，以帮助抵御这次攻击。

但这部纪录片“没有提及缺乏对智能体的隔离与监控、封闭模型的安全防护如何阻碍了我们的防御工作，以及我们如何使用一个开放模型借助人工智能进行自卫，”Delangue 写道。

诚然，人工智能和智能体确实存在巨大风险。不过，把智能体当作有意识的存在（至少在现阶段）有点像早期电影观众第一次在银幕上看到火车朝自己疾驰而来时躲到座位底下。

Delangue 对这部影片的评价是，它作为新闻报道令人失望。“不过它最终成了一部有趣的科幻电影！”

换言之，对于那些倾向于人工智能末日论想法的人，请注意：这部纪录片核心袭击事件的受害者并不认同其观点。

当您通过我们文章中的链接购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 的初创公司/风险投资栏目编辑。

您可以通过发送电子邮件至 [email protected]，或通过 X 上的 @Julie188 联系 Julie，或核实来自她的联络。

查看简介