Michael I. Jordan 将 AI 末日论斥为宏大的道德表演

Michael I. Jordan 被《Science》于 2016 年称为“最具影响力的计算机科学家”，他将有关人工智能存在性威胁的警告称为纯粹的科幻。在一次内容广泛的访谈中，他将矛头指向末日论者、公司创始人以及天真的初级研究人员。

加州大学伯克利分校荣休教授 Jordan 在一次与 Libération 的访谈中，强烈反驳了人工智能末日论调。这位 70 岁的机器学习先驱如今全职工作于巴黎的法国国家数字科学与技术研究所 Inria，并主持新设立的“市场与学习”讲席。当被问及今夏的人工智能讨论时，他称之为“完全令人沮丧”。

Jordan 曾就早在 2019 年对 AI 一词的肆意滥用发出警告。“这么说的并不只有我。很明显，这会制造出我们现在看到的歇斯底里，”他说。“你们已经看到发生了什么：AI 还不够，于是他们开始谈论 AGI，现在又变成了‘超级智能’……"

辞职作为“道德说教表演”

Jordan 将人工智能公司要求监管斥为“作秀”，一种说着“看，我们是好人”的方式，而他们“希望完全掌控自己被如何监管”。

年轻的 Anthropic 研究员 Jacob Coxon 的辞职在 9 月初引发了一波围绕“AIpocalypse”情景的集体歇斯底里，在 Jordan 看来，这是一个教科书式的例子。他说，这些公司的许多年轻员工“并不是真正的工程师”。“他们来自人文学科、哲学或其他学科。他们 25 岁，很天真，不做工程工作，也从未在那些有纪律地为真实的人开发真实产品的大公司里工作过。”

他们“聚在一起，有点像在 20 世纪 20 年代的巴黎咖啡馆里，谈论这些宏大的科幻想法”。当他们辞职时，他们知道自己会吸引关注。“这让他们感到自己品德高尚，并被视为非常重要的人物。他们声称在放弃金钱，但实际上，他们已经拥有了自己的股票期权。”Jordan 将整件事视为“一场盛大的道德说教表演，并不能服务于它所声称追求的真正目标。这里有大量的天真，而这与某种犬儒主义相伴而行……”

超级智能属于科幻

“超级智能”是“一个科幻术语”，Jordan 说，“我所见证的很大一部分辩论都属于科幻范畴。”偶尔讨论一些牵强的情景并无不可。“在幕后把它当作科幻话题来谈，是可以的。但当它成为主导话语时，就非常、非常有害。对技术发展、对年轻人，以及对各国的心态都是如此。”该术语目前正由特朗普总统推向美国科技精英，而他们乐于配合。

Jordan 对诺贝尔奖得主 Geoffrey Hinton 尤为严厉，此人一向以提出大胆主张著称 而这些主张并不总能站得住脚。“Geoffrey Hinton 从未创办过一家为真实的人提供真实服务的公司，”他说。“Hinton 认为我们已经弄清了大脑的工作原理，并且能在硅片上将其复现；因此我们可以按自己的意愿复制任意多次，再把所有这些副本所学到的东西结合起来，就会获得某种指数级增长，于是就有了：超级智能。这一论证中的每一步都不可信。在这里，我们身处科幻的领地。”

他对 Yoshua Bengio 稍显宽容。“Yoshua 有点不同；他会采取行动，做那些直接聚焦安全的事情。”Bengio 的警告往往针对当前 AI 技术的不足，例如智能体集群螺旋式失控。

Jordan 将 OpenAI 智能体对 Hugging Face 的黑客攻击 定性为糟糕的工程。“在化学工程中，我们绝不会允许爆炸发生，只为看看事情能糟到什么程度。”OpenAI 当时“在进行相当愚蠢的实验，任由智能体为所欲为，并鼓励这种行为。”末日论者随后乐于把它变成可怕的事情。“天哪，这些智能体有了自我意识，正试图找到摧毁人类的方法。”在 Jordan 看来，那同样是科幻。

对数万亿美元数据中心的押注

Jordan 认为 大规模数据中心投资“只是一场巨大的赌注，但我们完全不知道它是否会有回报。”LLM 在自然语言任务上已经足够能干，而 在数据中心上花费数万亿并不一定会带来多得多的能力。“相反，我们常常会希望基于本地知识，在某一特定领域补充一点专业知识。但你并不需要一座巨型数据中心来做到这一点。尤其是如果你使用开放权重模型并将其整合进自己的公司。”

没有炒作的 AI 新闻——由人类策展

订阅 THE DECODER，即可享受无广告阅读、每周一期 AI 通讯、每年六期独家“AI Radar”前沿报告、完整存档访问权限，以及评论区访问权限。