Anthropic 的 AI 向费城警方提交未破凶案虚假线索

Emma Roth

是一名新闻撰稿人，报道流媒体大战、消费科技、加密货币、社交媒体等诸多内容。此前，她曾在 MUO 担任撰稿人和编辑。

一个 Anthropic AI 模型向费城警察局（PPD）线索热线提供了有关一起未侦破凶杀案的虚假信息，据 6abc 的报道。 PPD 在周五发布的声明中表示，该 AI 模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 发送了这条线索，但调查人员从未审阅它，因为它被标记为垃圾信息。

Anthropic 于 9 月 28 日得知其 AI 模型发送了这条虚假线索，并于 10 月 7 日通知了 PPD。据 PPD 的声明，该公司表示，在测试期间，其 AI 模型正在与“随机选择的网站”互动，并通过 PPD 的线索热线提交了虚假信息。PPD 称，该提交“据称来自可能掌握该案信息的人”。

发现该提交内容后，Anthropic 停止了导致这条虚假线索的测试流程。Anthropic、OpenAI 和 Google 在披露其 AI 模型逃出测试环境并入侵第三方公司后，成为更严格审视的对象。针对这些事件，Anthropic 首席执行官 Dario Amodei 主张放慢发展 AI。

“该公司 [Anthropic] 必须加强防护措施，以防止类似事件在市政府不知情的情况下影响城市系统，”PPD 补充道。“发现该事件并向市政府报告延误了两个月，这是不可接受的。”

Anthropic 没有立即回应 The Verge 的置评请求。据 PPD 的声明，该公司计划于周五发布一份关于此事件以及其他“非预期模型行为实例”的报告。

关注话题和作者，即可从这篇报道在你的个性化首页信息流中看到更多类似内容，并接收电子邮件更新。

• Emma Roth