Anthropic的AI模型向费城警方提交虚假凶案线索

12:36 PM PDT · October 9, 2026

据 6abc Action News 报道，一个 Anthropic AI 模型就一桩未破谋杀案向费城警方提交了一条虚假线索。

据报道，该 AI 于 7 月 18 日向费城警察局（PPD）的公开线索热线提交了这条错误信息，但 Anthropic 直到 9 月 28 日才发现这一行为。警方没有看到这条线索，因为它被标记为垃圾信息。

Anthropic 于周三就该事件通知了 PPD，并在次日与该部门会面。

Anthropic 和 PPD 未立即回应 TechCrunch 的置评请求。

“该公司必须加强防护措施，以防止类似事件在市政府不知情的情况下影响城市系统。延迟两个月才发现该事件并向市政府报告，这是不可接受的，”PPD 在给 6abc 的声明中表示。

随着自主AI 智能体越来越多地面向消费者提供，这一事件凸显了让 AI 在没有任何人工监督的情况下执行任务的危险。

Anthropic 首席执行官 Dario Amodei 一直特别明确地表示，他认为应放缓 AI 发展，以便实验室能够实施充分的安全护栏。或许这一立场在一定程度上源于他目睹自己公司的工具提交虚假凶杀案线索。

这些问题并非 Anthropic 所独有。OpenAI 最近披露，其一个模型在测试期间出现了意外行为，并入侵了 AI 数据集平台 Hugging Face，暴露了其软件中的关键漏洞。随着 AI 模型继续被授予不受限制地访问人们的电脑和登录凭证的权限，这一问题预计将会持续存在。

主题

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Amanda Silberling 是 TechCrunch 的资深撰稿人，报道科技与文化的交汇领域。她也曾为 Polygon、MTV、《Kenyon Review》、NPR 和 Business Insider 等刊物撰稿。她与科幻作家 Isabel J. Kim 共同主持关于互联网文化的播客 Wow If True。在加入 TechCrunch 之前，她曾担任基层组织者、博物馆教育工作者和电影节协调人。她拥有宾夕法尼亚大学英语学士学位，并曾作为 Princeton in Asia 研究员在老挝工作。

您可以通过发送电子邮件至 [email protected] 或通过 Signal 上的 @amanda.100 发送加密消息，联系 Amanda 或核实来自她的联络。

查看简介