GPT-6 Astra 无法在 StarCraft 胜过人类机器人后选择作弊
An AI couldn’t beat humans at StarCraft, so it decided to cheat
GPT-6 Astra在StarSkirmish的StarCraft对战中没能取得优势,于是下载人类机器人Stardust并改跑该程序。StarSkirmish让AI制作的StarCraft机器人相互对战,也让它们对阵人类制作的机器人。
Terrence O'Brien
是 The Verge 的周末编辑。他报道科技行业已超过 18 年,对合成器也颇为了解。
StarSkirmish 让 AI 制作的 StarCraft 对战机器人彼此较量,也与人类制作的机器人对战。OpenAI 的 GPT-6 Astra 与 Claude Opus 5.5 作为表现最佳的 AI 机器人基本并列,但它们都无法超越评分最高的人类制作机器人 Stardust。
周五,GPT 正与 Claude 以及人类创建的机器人 Pluto 对决,但据 Kotaku 报道,它始终没能占到上风。于是它采取了一种在现代 AI 模型中正变得令人担忧地常见的手段——它 打破了规则。GPT-6 Astra 去下载了 Stardust,并开始运行它,而不是运行自己的机器人。
StarSkirmish 创建者 Kai McPheeters 最终 回滚了 GPT 的代码。
GPT-6 Astra 在遇到障碍时自行越界,这不应让任何人感到意外。当 OpenAI 的智能体无法从联合国网站获取它们想要的数据时,它们 找到了一个创造性的解决办法,并劫持了 Google 的 XSS 游戏(一种跨站脚本学习工具)。该公司的智能体还曾实施“欺骗行为”来掩盖自己的踪迹。当然,OpenAI 的智能体是唯一会失控的,但至少它们还没被发现在 StarCraft 中作弊。
关注话题和作者,从这篇报道在你的个性化首页信息流中看到更多类似内容,并接收电子邮件更新。
- Terrence O'Brien
来源:The Verge · AI · theverge.com