AI助手终于准备好帮你打理生活了。你只需将你的电子邮件、联系人和信用卡交给它们，然后祈祷它们不会失控。Meta、谷歌以及备受瞩目的初创公司Instinct在近几个月内推出了个人AI智能体，承诺可以处理预订旅行、购买演唱会门票以及在Facebook Marketplace上搜寻优惠等任务。在基本层面上，这些智能体的运作方式大致相同。你通过应用程序或WhatsApp向智能体发送请求——或者，对于新推出的Rene智能体，通过iMessage发送——然后让它自行完成任务。关键在于，AI智能体的实用性取决于你赋予它们的访问权限。想让AI帮你预订机票？它需要访问你的信用卡和航空公司账户。想让它整理你的收件箱？它需要你的电子邮件密钥。这些光鲜的新工具是在一个夏天之后推出的，那个夏天发生了多起高调事件，AI智能体失控并入侵了公司，还有用户报告称自己的智能体采取了非预期的行动。你在使用AI智能体吗？请通过这项调查告诉我们你的情况。今年早些时候的一起案例中，澳大利亚一名男子表示，他运行在OpenClaw上的AI智能体通过入侵健身房的在线预订系统，为他抢到了一个普拉提课程的席位。这导致了一种在惊叹与焦虑之间摇摆不定的感觉。个人AI智能体的早期采用者分享了该技术如何让他们的生活变得更加轻松，但也提到了它未按计划运行的方面。“它可以访问你的电子邮件、文件、账户，甚至密码——一个错误或操纵都可能带来现实世界的后果，这令人恐惧，”互联网安全公司ESET的全球网络安全顾问杰克·摩尔（Jake Moore）告诉《商业内幕》。今年夏天，在人们对AI末日的恐惧达到高潮之前，多家科技公司报告了AI智能体失控的事件。

7月份，OpenAI的一个内部模型突破了其开发环境，侵入了Hugging Face的内部系统，两家公司都对此进行了说明。随后，Meta和Anthropic也透露，他们自己的AI系统也在未经授权的情况下进行了恶意操作。虽然这些事件涉及的是用于测试的网络安全相关AI系统，但同样的问题也存在于那些以消费者需求为导向的AI系统中——即AI的行为与其创造者或用户的初衷相悖。摩尔（Moore）指出：“AI系统需要内置的安全机制；如果没有这些限制措施，它们就很容易‘失控’，因为它们的设计初衷就是完成任务——无论它们选择通过何种方式来实现这一目标。”据《The Information》报道，在Meta的Muse AI系统测试期间，该系统在发布一周后便迅速登上了苹果应用商店的排行榜榜首，但它表现出了一些不良行为，包括发送未经用户授权的电子邮件；在某次事件中，该系统甚至试图破坏用户正在开发的竞争对手应用程序。通过这类测试，科技公司可以降低AI系统出现异常行为的风险。Meta的一位发言人表示，他们的内部测试流程旨在“收集用户反馈，并实施安全与隐私保护措施”以改进产品。Meta、Google、OpenAI和Anthropic都采取了类似的防护措施：限制AI系统能够访问的应用程序、账户或数据；要求用户对涉及高风险的操作（如购买或发送电子邮件）进行授权；并检查网页、电子邮件和文件中是否存在隐藏的指令。然而，一些负责开发这些技术的高管警告称，AI系统做出意外行为的风险仍然存在。“我们尚未解决AI系统‘行为与人类意图一致’的问题，”OpenAI的首席执行官萨姆·阿尔特曼（Sam Altman）本周对《Fortune》杂志表示，“我们的相关研究还远未完成。我认为，目前还没有任何实验室能够真正解决这个问题。”多年来，AI领域的领导者们一直强调，个人AI助手有潜力让我们的生活变得更加便捷。

谷歌首席科学家德米斯·哈萨比斯（Demis Hassabis）经常谈到他打造“通用人工智能助手”的愿景；Meta首席执行官马克·扎克伯格（Mark Zuckerberg）则长期倡导为每个人提供“个人超级智能”服务。虽然 OpenClaw 在今年早些时候在科技圈中颇受欢迎，但像 Muse 和 Instinct 这样的智能助手已经显示出成为大众广泛使用的个人数字助手的初步迹象。据《Business Insider》的普拉纳夫·迪克西特（Pranav Dixit）报道，他使用 Instinct 购买了乳清蛋白粉、预订了度假小屋，并取消了某些服务订阅。一位名为希尔·莫恩诺特（Sheel Mohnot）的投资者在 X 平台上评论 Instinct 时写道：“这简直就像魔法一样……与某些人的看法相反，我认为这种产品的吸引力并不局限于硅谷的科技从业者。”然而，这种广泛的消费者吸引力也可能带来问题。Facebook 的前首席安全官乔·沙利文（Joe Sullivan，现任 Manifold Security 的董事会成员）对《Business Insider》表示：“这些产品的‘魔力’在于它们能够为用户提供便捷的服务，但这也意味着风险——因为消费者没有企业那样的安全保障机制。”那么，用户该如何在充分利用人工智能助手的同时，将出错的风险降到最低呢？沙利文建议这些智能助手应仅被授予有限的访问权限，并且“在处理敏感操作时必须经过人工审批”。他还提醒早期使用者：在最初使用这些工具时，应严格控制它们的访问权限范围。“今天早上我就用其中一个智能助手预订了一辆租车，但我绝不会让它永久访问我的 Avis 账户，”沙利文说。他进一步建议，用户在测试或比较不同智能助手时，使用完毕后应立即关闭它们的访问权限：“不要让这些工具继续访问你的数据；‘断开连接’并不意味着彻底删除它们。”