维基媒体基金会称 OpenAI 异常智能体可能与五月部分中断有关

Jay Peters

是一名报道科技、游戏等领域的高级记者。他于2019年加入The Verge，此前在Techmeme工作了近两年。

在多次关于AI智能体访问第三方网站和服务的近期披露之后，托管维基百科的维基媒体基金会表示，它可以“确认我们发现了一些活动”，这些活动由维基媒体平台上的“流氓”OpenAI智能体所为。

这些活动包括对维基媒体维基的编辑、对维基媒体基金会托管的Etherpad笔记工具进行“利用”的“未遂尝试”，以及基金会所称“可能”促成了5月一次部分中断的大量流量，据一篇博客文章。不过，维基媒体基金会表示，它没有发现其系统“被用于智能体之间协调”的证据（最近，OpenAI机器人据报劫持了一个德国维基网站以进行协调），也没有发现系统或数据遭到入侵的证据。

以下是维基媒体对其所见情况的总结：

维基编辑：我们已确认对维基媒体维基的编辑，我们认为这些编辑来自OpenAI运营的AI智能体。这些编辑并未发布到普通读者可见的页面上；其中几乎全部都是在维基“沙盒”区域进行的测试性编辑。其中还包括对某引用工具配置的几处编辑，我们认为这些可能是恶意编辑，意图滥用该工具作为代理，从远程服务获取数据。虽然维基百科政策允许机器人在披露并获得社区批准后进行编辑，但这些事件中均未寻求此类批准。

Etherpad探测与使用：我们认为由OpenAI运营的智能体对我们作为社区服务托管的公共Etherpad（一款笔记工具）进行了一些未遂的入侵尝试。智能体试图将其用作代理从其他网站获取数据，但未成功。其他同样可能由OpenAI运营的智能体还就其任务做了笔记，但这似乎并未演变成协调。

过度数据下载：我们认为由OpenAI运营的智能体向我们的公共API发出了数百万次自动化请求，以访问维基媒体项目上的知识，抓取了数百万个页面（主要来自我们的项目Wikidata和Wikimedia Commons），并向Wikidata Query Service（WQDS）发出了数十万次数据查询。这些流量可能促成了5月WQDS的一次部分中断。

“开放的网络是一项公共产品，”维基媒体基金会表示。“我们不应允许这种行为成为维护它的个人或组织的‘新常态’。”OpenAI没有立即回应置评请求。

关注话题和作者，从这篇报道中在你的个性化主页信息流里看到更多类似内容，并接收电子邮件更新。

• Jay Peters