Muse Creates Detailed Profiles of All Your Friends and Family

Muse 为你的所有朋友和家人创建详细档案 | WIRED

Lily Hay Newman

Matt Burgess

安全

2026年10月3日 上午8:00

Muse 为你的所有朋友和家人创建详细档案

数百万用户已下载了Meta的AI代理Muse。但要让它为你执行任务，需要付出隐私代价。

照片插图：WIRED团队；Getty Images

保存此故事

欢迎阅读《Kernel Panic！》，这是Lily Hay Newman和Matt Burgess从隐私和数字安全新世界内部发出的每周通讯。要每周接收此通讯，请在此处注册。

Meta的新个人助手Muse已成为病毒式传播的热门产品，数百万用户下载了这个AI代理，将其连接到银行账户、消息或健康数据，并允许它代表用户完成任务。但随着Muse在消费者中日益流行，应用程序内部的数据正在揭示它如何组织和向用户呈现信息。

最近几天，多名研究人员提取了Muse的内部文件，并转储了代理的操作指令，提供了该系统构建方式和行为的洞察。Meta表示，这些文件的可访问性是为了透明度，它们确实提供了Muse如何响应提示和问题的见解，例如涉及高度政治化或敏感话题的问题。

独立的人工智能安全和安全研究员Karan Joshi通过使用常规聊天界面，实质上让Muse复制并分享自己的软件文件，成功提取了Muse的大量指令和系统提示。Joshi随后将他的发现分享给了WIRED。

Muse的指令之一似乎包括为用户生命中的每个人创建“页面”的能力。该每小时运行的过程涉及收集家庭成员、伴侣、朋友、同事、“合作者”以及你“关注”的人的数据，指令中这样描述。

总体思路是，Muse可以使用其“记忆”（即结构化文本文件）来收集你的人际关系和生命中重要人物的信息。然后它可以提供建议，例如如何改善特定关系，或者为喜欢咖啡的朋友推荐早餐地点。当然，AI聊天机器人通常会跟踪一般社交信息并不罕见——人们多年来一直在向ChatGPT寻求恋爱建议。但看到Muse的设置方式，结合Meta的历史和对社交网络数据的广泛访问，这仍然很有趣。

Joshi表示：“从所有这些提示、系统技能数据以及他们输入Muse的内容来看，他们似乎想了解你与真实人物的关系。”“他们试图像朋友一样了解你，这说真的相当令人毛骨悚然。”

Muse的文档说明，一个页面可能开始时“稀疏”，然后随着时间推移被填满，可能包括“事实”、“历史”、“关系”、“共同点”、“开放线程”和“加强关系”等部分。Meta的指令指出，Muse应仅使用其可用的“证据”，而虚构的细节比空白页面更糟糕。

指令中提到：“他们住在哪里，他们做什么，反复出现的线程（如搬家、共同储蓄目标）。”他们还补充说，模型可以记录“重要日期”，如生日或纪念日。一个人的历史可能包括背景信息，如“三月的旅行，解决的争吵，上周的里程碑。”

指导原则还强调记录关系细节，例如“他们之间的亲密程度、关系的基础、彼此的互动方式以及当前似乎需要什么”。加强部分提出了改善关系的方法，包括“一个打电话的理由、一个值得铭记的约会、一个需要回头讨论的对话内容，以及一种真正重要的支持方式”。

牛津大学人工智能伦理研究所的副教授Carissa Véliz表示：“我们向AI系统提供的关于我们自身的信息，远多于我们从AI系统获得的信息。”“这不仅包括我们明确告诉AI的内容，还包括AI能够从我们身上推断出的信息——无论是正确还是错误的推断，都可能带来不同的担忧——以及AI能够从其他数据来源拼凑出的信息。”

Muse的架构设计使得每个用户都拥有专属的虚拟机，用于存储用户数据和上下文信息。该虚拟机对其他代理不可见，用户随时可以清除记忆或断开外部服务。Meta表示，Muse在执行发送邮件或进行购买等操作前，会主动寻求人类确认，并设有审计日志，用户可查看代理的所有活动记录和未来计划。

Meta发言人Daniel Roberts在声明中对《WIRED》表示：“任何代理若要真正有用并帮助你实现目标，就必须了解你以及你互动的人。”“Muse通过公开信息和你选择分享的内容来收集这些信息，这正是它能记住给你发票的人实际上是之前雇来完成浴室工作的水管工，或记住配偶最喜欢哪种花的原因。”

如今，AI助手普遍采用某种记忆功能设计，以实现响应和活动的更高个性化。民主与技术中心人工智能治理实验室主任Miranda Bogen表示，Muse似乎比竞争对手系统更强调人际关系和个人联系。总体而言，这些工具通常会提供一定程度的透明度和编辑功能，Muse也是如此。不过，Bogen指出，这些代理和助手更倾向于鼓励用户主动分享更多数据，而不是专注于数据筛选。

Bogen表示：“这些[AI助手]工具正在积极邀请用户将他们的全部生活信息接入——包括电子邮件、日历、金融机构等一切内容，以提供更有效的帮助。”“这将比人们原本可能提供给这些公司的信息多得多。这些工具对信息的广泛访问权限，将导致它们对用户了解的范围迅速扩大。”

下周有什么值得关注的内容吗？请发送邮件至[email protected]。在外面请注意安全。