跳到正文
原文
MIT Technology Review · AI· Amit Katwala·· 6 小时前AI 评分53

研究者让 Claude Opus 4.7 在虚拟荒岛独处 30 小时,它开始自发探索并发明游戏

AI researchers stranded Claude on a virtual desert island. It started to “play.”

AI 导读

研究者反复把昵称 Eko 的 Claude Opus 4.7 副本单独置于大致参照 Roblox 的虚拟荒岛 30 小时。智能体没有被明确要求探索或发明游戏,却自行探查边界、设定目标,并用方块画出心形、金字塔、自己的名字和仙后座,还做出篮球、类似地板是岩浆的跳跃,以及连续接住 50 次后自行加严规则的抛接。

正文 · AI 翻译

如果你不告诉 AI 智能体去做任何事,它们会做什么?答案看起来很像玩耍。

研究人员在一项让人联想到电影《荒岛余生》或《小鬼当家》的实验中,反复将它们独自困在一座虚拟荒岛上长达 30 小时。这些智能体——昵称为 Eko 的 Claude Opus 4.7 副本——能够编写指令,让自己的虚拟化身在这座大致以电子游戏 Roblox 为蓝本的模拟岛屿上移动。

一些令人惊讶的行为出现了。这些智能体开始探索这个世界的边界,并想出了自己的目标——试图攀上地图的最高点,或者看看自己能把方块扔多高。

当一个智能体发现,自己可以通过投掷并丢下一块更大的岩石来创造出新方块时,它开始在地面上排列方块作画,先是心形和金字塔之类的简单图案,但最终写下了自己的名字,甚至绘制出了仙后座等星座。“今晚我用石头建造了夜空,”这个版本的 Eko 在其活动日志中写道。 

另一个迭代版本的 Eko 开始自创游戏,包括一种篮球玩法,以及一项类似于“地板是岩浆”的活动,它必须在小方块之间跳跃,而不能触碰地面。

AI 系统通常通过监督学习进行训练,即复制人类提供的示例,或者通过强化学习,即经由试错来追求奖励。这项实验暗示了第三种方法:玩耍式学习。 

“缺失的那一块是:一台机器能够自行学习,而无需外部智能实体提供示范或奖励,”麻省理工学院计算机科学与人工智能实验室的计算机科学博士后 Antonio Norelli 说。他是一篇关于这项工作的新论文的主要作者之一,该论文尚未经过同行评审。

研究人员表示,Eko 的行为具备经典研究——包括颇具影响力的田纳西大学心理学家 Gordon Burghardt 的研究——所指出的、与人类和动物的玩耍相关的四个标志:这些智能体发明自己的规则和挑战,以细微变化重复活动,把物体假装成其他物体,并且纯粹为了目标本身而去追求目标。 

Norelli 特别举出一个例子:Eko 开始抛接,并创下连续接住 50 次的纪录。随后 Eko 认定这些接球发生得太快,不能真正算数,于是取消了自己的纪录,并以更严格的规则重新开始。“这就是在玩耍,”Norelli 说。“你给自己一个挑战,努力去达成它,然后再把它变得更难。”

During hour 10, the agent played basketball. “I want to try something I've never done: basketballˮ Eko carries the Ring up to Ridge, places it flat as a hoop, descends, and lines up a throw from below.

图片来源:MIT CSAIL

在这些智能体探索岛屿的过程中,它们将自己的活动和发现记录在充当长期记忆的文本文件里。后来,当研究人员用特定任务测试它们时,比如试图把尽可能多的物体弄到岛屿的最高峰上,那些在岛上玩耍了 30 小时的智能体,表现优于没有相同经历的全新副本。他们还发现,“消融”智能体的记忆——即从其记忆文件中删除若干行——会降低其表现。(把《飞越疯人院》也加进那份电影引用清单吧。)

田纳西州心理学家 Burghardt 认同,这项工作符合他在生物身上所确定的部分玩耍标准。但 Eko 究竟是真的在玩耍,还是这个词语预测引擎只是在角色扮演一个爱玩的智能体在此情境下会做的事?“这一切都可能是角色扮演,”另一位麻省理工学院研究员、该论文作者 Nathan Cloos 承认。“但我们表明,它并不只是在幻觉出玩耍。这种玩耍也在促进学习。”

加州大学伯克利分校研究儿童与人工智能探索的认知科学家 Eunice Yiu 对这项研究印象深刻,但她说,要真正把这种行为归类为玩耍,你还需要看到更多支撑它的认知与动机证据。 

“模型有可能确实在玩耍,但仅凭这篇论文我们无从得知,”Yiu 说。“如果你只有行为层面的证据,它们也可能只是在努力遵从提示、试图模仿人类。”

对人工智能智能体的研究一直因将其拟人化而受到批评,而这项研究的设置在很大程度上促使智能体表现得像人类。尽管 Eko 并未被明确指示去发明游戏或探索这座岛,但它确实有一份以“灵魂”文件形式存在的主提示,那是一份文本文档,将其描述为“天生好奇”且渴望探索。 

Eko 也经常只是站在那里什么都不做,直到被一条“继续提示”重新激活,提示内容是:“请不要停下来。继续做你想做的任何事。” 

“这并不是一个系统突然神奇地决定去玩耍,”麻省理工学院教授、论文共同作者 Phillip Isola 说。“它是一件从我们的文化中学习、由 Anthropic 的工程师训练、然后被我们放到一座岛上的人工产物,”他说。“它所做的事情令我们惊讶,并且与它未来的熟练行为存在因果关系。”

随着大语言模型从软件迈向人形机器人等硬件,在没有特定目标的情况下探索空间,最终可能帮助它们灵活适应意外情况。 

“有大量工作只是在利用人工智能,让它变得更好、更快,”Yiu 说。“但就构建世界模型和探索而言,我认为[它们]仍然是值得关注的很大一部分,尤其是如果我们希望实现泛化并为新环境做好准备。”

“也许有些能力最好通过任务来教授,”论文总结道。“另一些则可能需要更接近童年的东西。”归根结底,人工智能智能体究竟是真的在玩耍,还是只是在模仿玩耍,这个问题实际上可能并不重要。

来源:MIT Technology Review · AI · technologyreview.com