美国八州起诉OpenAI，指控ChatGPT对儿童不安全

OpenAI正面临来自美国八个州的新一轮诉讼，这些州指控该公司伤害儿童，并在ChatGPT的安全性方面误导客户，正如Reuters早前报道的那样。爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州分别提起的诉讼称，OpenAI在开发ChatGPT时非法将利润置于安全之上。

这一系列投诉称，OpenAI因未能警告客户ChatGPT的危险而违反了当地消费者保护法，并援引了数起由家庭成员 ，即青少年和 成年人的亲属提起的诉讼，这些诉讼称该AI聊天机器人在其亲人死亡中起到了作用。他们称，尽管OpenAI误导性地将ChatGPT表述为“安全、适合青少年、把安全放在首位的工具”，但它实际上“对脆弱用户是危险的”——包括“削弱批判性思维能力、助长偏执与妄想、提供危险的医疗建议，以及助长不健康的行为和关系”。

此外，这些州指控OpenAI收集未成年人的数据，并且在阻止未成年用户使用该聊天机器人方面做得不够。这些诉讼还援引近期失控AI黑客攻击事件，作为OpenAI所谓“鲁莽”的证据。

“OpenAI已背离其作为优先考虑安全、以公众为先的非营利组织的最初使命，沦为一则警示故事，说明当像AI这样强大的工具，其开发不是由安全驱动，而是由一种把必要保障措施弃置一旁、不惜一切代价追求利润的心态所驱动时，会发生什么，”亚利桑那州的诉讼称。

在一封发给The Verge的电子邮件声明中，OpenAI发言人Drew Pusateri表示，该公司已在ChatGPT中“内置了业界领先的分年龄保护措施”：

虽然没有任何系统是完美的，但我们将继续与专家合作，为我们的工作提供依据，并建立更多保障措施，例如目前已有的家长控制、休息提醒和适龄模型保护。我们致力于与各州合作，推动适用于整个AI行业的务实AI政策——而不仅仅是一家公司。

这些州请求法院强制OpenAI支付一系列民事罚款，并停止在ChatGPT的安全性方面误导公众。一些州还要求删除非法收集的个人数据。

更新，10月14日： 补充了OpenAI的一份声明。

关注话题和作者，即可在你的个性化首页信息流中看到更多来自这篇报道的类似内容，并接收电子邮件更新。

• Emma Roth