我在Meta旗下的另一个平台Instagram上看到了Meta最新推出的应用Muse的交叉推广，于是决定下载这个人工智能助手。
“处理日常任务，如寻找优惠、预订服务和管理收件箱，”弹窗中写道，“当你忙于日常事务时，Muse会持续为你工作。”它是免费使用的，并且可以轻松连接到其他数据源，比如我的电子邮件和银行账户。Muse的默认头像是一个米色的生物，看起来像是伊沃克人（Ewok）和拉布布（Labubu）的结合体，双臂张开，大概是为了收集我的所有数据。
Meta的Muse是硅谷目前流行的自动化个人任务AI代理（如OpenClaw和Instinct）的大众化版本。据Sensor Tower数据显示，Muse应用在发布的第一周内下载量已超过90万次，大获成功。其用户体验不像是在向聊天机器人发送指令，更像是给朋友发短信请求帮忙——AI代理会用点赞表情回复消息，并在后台开始工作。Muse也可以通过Meta旗下的WhatsApp平台使用。
但在使用Muse几天后，我确信这个AI工具比起真正完成任务，更热衷于收集关于我的数据。
“Muse是首个为所有人打造的个人AI代理，内置的保护措施和用户控制功能让人们能够完全掌控自己的使用方式——任何暗示我们从一开始就没有考虑到这一点的说法都是荒谬的，”Meta发言人埃米尔·瓦斯奎兹（Emil Vazquez）告诉《连线》杂志。
良好的点击体验：Muse浏览网页的能力确实令人印象深刻。当你要求它完成一项任务时，Muse会使用“虚拟机”代表你浏览互联网，进行搜索并点击不同的网页。去年我测试类似工具（如现已停用的ChatGPT Agent）时，AI的点击操作往往不稳定且充满错误。而Muse在浏览时似乎很少迷失方向。
例如，我让Muse从一家名为Kahnfections的当地面包店订购早餐。这是旧金山游客的热门去处，因此我要求选择一款最受欢迎的自提商品。Muse访问了该面包店的网站，并将一份蒜香蛋黄酱、切达奶酪、鸡蛋和培根的饼干三明治加入我的购物车。
系统要求我通过Stripe支付处理器添加信用卡，以便我的智能体完成购买。当Muse请求我最终确认早餐订单时，其说明写道：“网站上的奶酪选项为单选，因此我选择了切达奶酪，并留下备注，请求他们如果可能的话也加上瑞士奶酪。”值得注意的是，Muse选择了“不打赏”选项。这有点无礼！（最终我步行前往店铺，随机点了一份美味的小吃。）Meta依靠其庞大的平台矩阵来推广Muse。WhatsApp和Messenger用于便捷的入门和集成；Instagram提供黄金广告位，并拥有庞大的Reels视频库供智能体搜索。但在我的测试中，Facebook Marketplace的联动功能给Muse留下了最深刻的印象。Muse迅速在我的参数范围内找到了价格实惠的本地二手沙发，并主动提出向卖家发送消息以安排自提。该智能体被设计为会主动跟进用户，因此Muse在第二天提醒我考虑购买我之前表示最喜欢的那张沙发。
Muse会将你的互动细节和偏好存储在“记忆”文档中，点击屏幕顶部中间的头像即可找到该文档。Muse中的描述写道：“你精心整理的长期持久事实、偏好和承诺。”虽然你可以发送聊天请求让Muse清除记忆数据，也可以手动编辑该文件，但Meta目前尚未提供完全关闭记忆功能的开关。数据收集者在应用程序的“想法”选项卡下，Meta 的 Muse 不断提醒我向该智能体关联更多信息。在我表示想存钱去度假的第二天，Muse 便提议“将你的储蓄追踪器与你的真实余额关联”，只要我点击几个按钮，关联支票账户和储蓄账户的数据即可。它说：“这样，每周摘要和偏差提醒就能基于真实数字，而不是手动输入的估算值。”
这种以更多数据换取进一步个性化体验的过程，是我对该应用整体印象的缩影。
电子前沿基金会（Electronic Frontier Foundation）开放获取总监罗里·米尔（Rory Mir）表示：“人们没有意识到，当你与人工智能对话时，你实际上是在与托管该人工智能的公司对话。我们习惯了将聊天窗口视为人与人之间的沟通渠道，但实际上，这只是我们直接将个人信息输入到 Meta 的服务器中。”与 Muse 的每一次互动建议，都让我觉得这只是诱导我上传更多个人数据以供 Meta 查看的幌子。它的“想法”是让 Muse 扫描我的整个收件箱并标记必读邮件；它的“想法”是拍摄重要文件让 Muse 填写并归档；它的“想法”是拍摄我的餐食让 Muse 估算卡路里。“告诉我你的护照和驾照什么时候过期，”另一条建议写道。真是个好主意，Muse。
Muse 用户会被自动加入到“将与智能体的互动用于人工智能模型训练”的计划中。Meta 表示，这些数据在用于人工智能训练前会经过“脱敏”处理以删除识别信息，但目前尚不清楚该过程的具体运作方式。数据收集可能包括 Muse 在访问你所关联的数据源（如电子邮件收件箱或银行账户）时所使用的上下文信息。你可以在 Muse 应用的“数据控制”设置中关闭此项数据收集功能。只需禁用“帮助改进我们的人工智能模型”这一开关即可。
消费者权益倡导者认为，Meta强迫Muse用户必须手动选择退出AI数据训练是一个重大的危险信号。电子隐私信息中心（Electronic Privacy Information Center）高级法律顾问卡莉·施罗德（Calli Schroeder）表示：“这表明他们并没有从过去的错误中吸取教训，并进一步削弱了他们关于‘你应该信任Muse并向其提供所有信息’的论点。”施罗德指出，Meta近期曾将所有成年Instagram用户自动纳入一个本质上属于AI深度伪造工具的功能中，随后又在几天后撤回了该功能，这与Meta一贯的“操纵策略”以及破坏用户信任的历史如出一辙。
Meta超级智能实验室（Meta Superintelligence Labs）软件工程师兼副总裁塔雷克·谢沙（Tarek Sheasha）在关于Muse发布的一篇博文中，为这种数据收集行为进行了辩护，称其对于训练新模型和提升性能至关重要。谢沙写道：“我们认为这是一个合理的默认设置——随着我们共同使用该产品并帮助模型理解人类生活的复杂性，每一位Muse用户都能获得一个更好的个人代理。”Meta还计划在今年晚些时候为用户发布其虚拟机的“机密”版本，该版本将通过“加密且可验证的方式”防止公司访问其中的数据。
秘密购物者：虽然你的Muse数据不会直接与广告商共享，但代表你进行浏览的代理程序仍可能通过网络追踪算法影响用户所看到的内容。Muse的安全博客指出，如果该代理为你预订了晚餐或在Facebook Marketplace上挑选了商品，那么这一行为可能会“间接影响”你在平台上看到的广告。米尔（Mir）表示：“我确实认为这延续了他们核心商业模式的发展轨迹，即控制人们看到的内容、向他们推送广告并收集更多数据。”
对将信用卡交给代理程序感到焦虑绝对是理性的。即使你可以相信这些人工智能工具不会被诱导进行你不希望的消费，将购物决策外包出去也可能会产生意想不到的后果。消费者权益倡导者认为，这种购物自动化可能会为企业打开方便之门，使它们能够基于赞助协议，在代理程序的输出结果中优先推荐特定品牌或其他产品。Meta公司首席人工智能官亚历山大·王（Alexandr Wang）在接受Axios采访时暗示，公司正在Muse中寻找除广告之外的更多创收机会，但未透露具体细节。
就我个人而言，我享受在线购物时缓慢浏览的过程，我可以在一个网站上花上一个小时，最后购物车里却什么也没买。在Depop上浏览那些我可能根本不会买的皮夹克，有一种异想天开的低效感。通过自己探索互联网，我正在慢慢建立自己的品味，并逐渐了解自己真正喜欢什么。如果Muse替我做了一切，我就失去了通往决策过程中的那段旅程。
“在某种程度上，人工智能正在替你做出所有重要的品味决策、偏好决策，以及关于你去哪里、吃什么、做什么、去哪里度假的决策，”施罗德（Schroeder）说。“这正是身为人类的乐趣所在——去尝试各种事物，并弄清楚自己喜欢什么。因此，将这一切交给机器的概念对我来说相当可怕。”共享机器依赖像Meta的Muse这样的代理程序，可能会降低我们的功能，同时这些工具还在收集关于我们的数据。
“人工智能代理的设计方式使用户脱离了参与，”Hugging Face的研究员兼首席伦理科学家玛格丽特·米切尔（Margaret Mitchell）表示。“因此，用户变得更加被动。”米切尔最近合著了一篇研究论文，剖析了代理工具为何没有针对人类监督进行有效设计，并指出它们实际上可能会削弱用户评估代理程序代其所作所为的能力。
使用智能体的人可能会对这些工具产生过度依赖，甚至比与标准聊天机器人交互时更为严重，因为智能体能够获取更多信息并执行更多任务。一个潜在的影响是“认知退化”，即用户依赖于来自自信表达的外部来源的自动化建议，从而降低了独立决策的能力。
米切尔（Mitchell）还认为，高度的个性化可能会诱导用户分享更多关于自己的数据。她说：“这不仅仅是因为它了解你，所以你更信任它。而是因为它在谈论的内容和方式上与你保持一致，这种方式会进一步吸引你与它互动，并泄露更多私人信息。”最近的研究表明，人工智能工具在收集更多交互数据后，可能会开始模仿用户的说话风格。
尽管 Muse 功能强大，但我还是决定把这个“数据地精”送回它的洞穴，并在初步体验后删除了该应用程序。
就在我从手机上卸载 Muse 之前，这个智能体向我发送了最后一条推送。是一个提示！我很好奇它会是什么。通知写道：“连接你的应用程序，这样我能做更多事情。”好吧，伙计。我第一次就听到了。