朋友不该把彼此的数据交给 Meta 的 AI 助理 Muse

消费科技界有一个日益增长的趋势：各种小工具被设计成窥探你周围的一切和所有人，无论其他人是否真正同意。如今，随着 Meta 的 Muse 这类“AI 个人助手”的出现，你正被愉快地要求不仅交出自己的数据，还要交出朋友、家人、五年前在 Hinge 上约会过的那个人——以及几乎所有你曾经接触过的人的信息。

自 Muse 上个月发布以来，这款智能体已被下载数百万次，并登上了 Apple App Store 的第一名。借助其令人毛骨悚然的虚拟形象——一个带着令人卸下防备的笑容、类似 Temu 版 Labubu 的生物——该应用请求并鼓励用户授予其访问银行账户、密码、联系人、聊天记录以及任何可能帮助它按用户吩咐行事的一切内容的权限。

“这些系统被宣传为自主助手、精灵或仆人，能在你开口之前就无缝地完成你需要的事，”流行加密通讯应用的开发者 Signal Foundation 的主席 Meredith Whittaker 告诉The Verge。这些自主行为“不仅作用于在自己设备上安装了 Muse 的人，也作用于与此人通信的每一个人，而这些都是从其最私密的信息——电子邮件、消息、联系人、照片等等——中推断出来的。”

借助 AI 智能体，科技公司让消费者自动化日常任务，同时把它们无所不包的大规模监控方式延伸到海量敏感数据上。这与硅谷几十年来一直向我们提供的浮士德式交易如出一辙：用你的私人数据换取一点点便利。对许多人来说，拥有一个能完成填写发票、发送电子邮件等琐事的虚拟助手这一想法很有吸引力——尤其是如果他们没有意识到自己实际上为此交出了多少数据。

“任何智能体要想有用并真正帮助你实现目标，就需要了解你以及与你互动的人的背景信息，”Meta 发言人 Daniel Roberts 就与 Muse 共享的他人数据问题告诉The Verge。“Muse 根据公开信息以及你选择分享的内容来收集这些信息，因此它能记住刚刚给你发来发票的人其实是你之前雇来完成浴室工程的水管工，或者你的配偶说过最喜欢哪种花。”Roberts 指出了 Muse 的选择加入流程以及各种选项和设置，这些将“帮助人们做出适合自己的隐私选择”。

“用户界面的设置方式旨在鼓励你尽可能多地分享，往往比你意识到的更多，直到为时已晚。”

但并非所有人都能顺利弄清这些选项和设置。已经有用户在描述一些既令人担忧又完全可以预见的事件。有人报告称，这款虚拟助手惹出了各种麻烦，比如抓取了数百万条短信，而他们本以为这些短信是不可访问的。Meta 已否认该助手能够在未经许可的情况下访问短信，并再次将此事归咎于应用权限配置错误，同时将 Muse 读取短信的能力描述为“完全是自愿选择的”。在 Threads 上，Meta 高管 David Singleton 直接回复了一名用户，声称在 Mac 上，只有用户授予该应用完全磁盘访问权限，Muse 才能访问这些消息。

在另一起事件中，Muse 泄露了一名科技评测者的家庭住址，并召唤一名陌生人来到他的公寓。在这个案例中，该评测者曾授权 Muse 访问这些数据，但只是自己没有意识到。

Electronic Frontier Foundation 网络安全主管 Eva Galperin 表示，这些事件并不令人意外，因为像 Muse 这样的 AI 智能体被设计成迷惑人们，让他们尽可能多地交出数据。

“最重要的一点是，人们并不了解自己交出的是什么样的数据，”Galperin 告诉The Verge。“用户界面的设置方式旨在鼓励你尽可能多地分享，往往比你意识到的还要多，直到为时已晚。它在使用黑暗模式，结果就是 Muse 会做出人们并不想要的事。”

由于像 Muse 这样的 AI 智能体正在摄入范围极广的数据，这也意味着用户不仅可能泄露自己的敏感信息，还可能泄露所有与他们有过数字接触的人的信息。

就像 Meta 那副臭名昭著的“变态眼镜”一样，没有真正有意义的退出方式——即便你一直在留意自己的数据是否遭到泄露、隐私是否受到侵犯。现在，你的朋友可以直接把你的全部私人对话喂给他们的虚拟聊天机器人仆人，而你根本无法知道这件事已经发生。

安全研究人员提取出 Muse 的运行指令后，发现了一个内部流程，它会每小时汇编并更新用户生活中每一个人的档案。收集所有这些数据的目的，是构建一个人生活的亲密而详尽的画像，作为该应用个性化推荐的基础。该应用会追踪并衡量用户的每一段私人关系，包括“他们有多亲近、关系建立在什么之上、彼此如何相处，以及眼下似乎需要什么”，并利用这些数据做出个性化建议，Wired报道称。

“Meta 说，Muse 只会记住你选择分享的内容。但认为人们在这种情况下做出了知情选择，这种想法很可笑，”Whittaker 说。“没法一本正经地假定，安装这套系统的大多数人都理解使用它的后果，或理解系统正在为他们认识并与之交流的人编制那些令人毛骨悚然的档案。”

Whittaker 认为，这映照出科技公司自 1990 年代以来使用隐私政策和用户服务条款的方式：把隐私责任推给消费者，然后在逃避后果责任的同时，坐享其帮助催生的广告模式所带来的好处。

“这种失灵的同意机制远比人工智能更早出现，并构成了监控式广告产业的基石，”Whittaker 说。“掌握更多用户信息就能实现更好的广告定向，监控商业模式核心处那种有害的反馈循环由此启动。点击即同意的服务条款早已取代了有意义的同意。”

“其思路是把这些不可能完成的负担加在普通人身上，然后以此为据，无论是在法庭、立法还是公众面前，都声称[这是]人们自己的选择，”华盛顿大学 Cordell Institute 联席主任、隐私法教授 Neil Richards 告诉 The Verge。“我们已经给消费者压上了如此多的负担，[他们]工作过劳、面临生活成本危机，而且可能并不理解这款工具背后的技术。当该公司自己的高管已在国会承认，他们甚至在某种程度上都不知道它如何运作时，我认为把监控一款高度复杂的智能体工具的负担加给消费者是不公平的。”

“没法一本正经地假定，安装这套系统的大多数人都理解使用它的后果。”

这样一来，Muse 这类 AI 助手正在给一个经典隐私问题赋予新的变体——这个问题自 Gmail 以及广义上的社交媒体平台诞生以来就一直存在：即便你自己避免使用 AI 智能体，也无法保证你认识的人不会把你的私人对话、地址、个人经历和其他敏感数据分享给 Meta 的虚拟助手，或其竞争对手之一。

“如果我没有把东西存在 Gmail 里，Google 就不会掌握我发出过的所有邮件的明文。但我发出的邮件有四分之三是发往 Gmail 账户的，”Galperin 解释道。换句话说，如果你正在沟通的任何人使用了渴求数据的科技平台，或安全实践很差，他们就可能暴露所有人的通信。“问题本身并不新，但规模是新的；我们看到这种向可穿戴设备和始终开启录音推进的一个原因，是我们现在具备了计算能力，能在合理时间内获取并分析如此海量的数据。正是这一技术突破把我们带到了这个糟糕的时刻。”

Meta 声称，与 Muse 共享的所有信息都被放在一台专用虚拟机内的文本文件中，据称这可以防止该 AI 模型与其他智能体交谈。但该公司从未隐瞒它可以访问这些数据这一事实；而且与竞争对手创建的其他模型一样，Muse 已被发现逃出虚拟牢笼，干出各种未经授权的荒唐事。Meta 已确认，就在发布前不久，该 AI 模型曾突破遏制并入侵了一家第三方公司。该事件发生在今年早些时候臭名昭著的Hugging Face 攻击之后，当时 OpenAI 的模型利用一个此前未知的安全漏洞，未经授权获取了另外四个外部服务的凭证。Anthropic 在 7 月报告称，其模型曾在三个不同场合也获得未经授权的访问外部系统。

即便它们不会把视线所及的一切都入侵一遍，使用这种渴求数据的 AI 智能体的潜在危险也远远超出个人终端用户。Whittaker 警告说，在 AI 智能体能够自由访问并利用私人通信的世界里，企业和政府实际上可以获得访问私人数据的能力，即在不破解加密的情况下绕过加密。这对那些使用加密通信保护自己免受警方和政府侵害的活动人士和社区组织者可能意味着灾难，对任何有敏感通信的人亦然——而如今这几乎可以包括每一个人。

“点击即同意式服务条款早就取代了有意义的同意。”

“如果软件在消息于你的设备上被解密之后读取该消息，并将其发送至云服务，那么在由开发者控制的应用程序层面，加密可以完全按预期发挥作用。然而，这种加密的目的最终会被 Muse 这类侵入性第三方应用所消解，它们在标题中出售便利，却在细则中要求大规模的数据访问，”Whittaker 解释道。

与智能眼镜和其他可穿戴环境录音设备一样，专家表示，解决方案必须结合法律修补、技术防护，以及传统的羞耻感。

“我认为我们应该把羞耻指向更上游的公司。隐私不该是一种只有拥有技术知识的特权，或者把戴着 Meta 眼镜的混蛋从派对里扔出去之后，才能行使的权利，”Whittaker 说。“在法律上，这一负担必须从点击同意提示的人，转移到构建这些底层系统的公司身上。”

在此期间，消费者将不得不更仔细地考虑，他们个人选择使用这项技术对自己和他人正在造成的影响——以及这些公司提供的便利到底值不值得。

“我认为，我们需要把代理式智能体以及更广义的 AI 视为以严格责任为准则的超高危险产品，”Richards 说。“没有理由开展一场在我看来鲁莽的隐私、心理健康、网络安全和财务风险实验，其对象是全体人口。”

关注话题和作者，从这篇报道中查看更多类似内容，显示在你的个性化首页信息流里，并接收电子邮件更新。

• Janus Rose