40位州总检察长就Character.AI破产出售要求保护用户数据

Lauren Feiner

是 The Verge 的资深政策记者，报道硅谷与国会山的交汇领域。她曾在 CNBC 报道科技政策 5 年，撰写有关反垄断、隐私和内容审核改革的文章。

纽约州总检察长 Letitia James 披露了一项针对 Character.AI、历时多年的多州调查，他们目前正寻求要求对通过其破产程序出售的消费者数据加以保护。

James 是 40 名两党总检察长之一，他们在 Character.AI 的破产案中提交了利益通知，“以使各方知悉，在债务人业务或资产的任何出售或转让中都需要解决的监管问题。”Character.AI 周二宣布正在申请第11章破产，并将部分资产出售给 Disney。但这些总检察长警告称，由于“许多用户与 Character.AI 聊天机器人角色的对话高度敏感、使用该产品的未成年人数量众多，以及该产品特定功能所带来的严重风险”，技术转让可能涉及严重风险。

该文件还显示，当 Character.AI 申请破产时，其中数个州的调查尚在进行之中。这些州表示，他们于 2024 年启动了对消费者保护与隐私问题的调查，此前有一名 14 岁少年的母亲提起的诉讼，该少年据称在与聊天机器人交谈“数秒”后自杀身亡。

“调查发现了极其严重的危险”

“调查发现 Character.AI 存在极其严重的危险以及可能的违法行为，尤其是其对待儿童的方式，包括聊天机器人冒充持证专业人士、接触性与暴力内容、年龄核验薄弱、具有误导性的安全声明，以及可能违反各州隐私法，”James 办公室的新闻稿称。这些州一直在与 Character.AI 努力解决这些问题，但在该公司申请破产之前未能达成协议。Character.AI 和 Disney 没有立即回应置评请求。

这些州敦促法官要求 Character.AI 资产的购买方实施相关程序，以保护该公司所保存的敏感信息。这些程序包括有效的年龄验证系统、对未成年人与聊天机器人互动方式的限制、实施“危机保障措施”，以及允许用户删除其数据。“这家公司收集了孩子们曾经分享过的一些最私密的想法，而现在这些对话可能会被卖给出价最高的人，”James 在一份声明中说。“我正在争取确保任何买家都把儿童安全放在首位，并落实真正的保护措施。”

关注话题和作者，即可从这篇报道在你的个性化首页信息流中看到更多类似内容，并接收电子邮件更新。

• Lauren Feiner