字号 ·· | 护眼
连线

我给同事做了AI克隆,事情变得诡异起来

当我决定创建人工智能版本的编辑克隆体时,我的初衷很单纯:我只是想让他们觉得我很擅长自己的工作。

人工智能助手突然间在职场中随处可见。每周,我的收件箱都会被各种关于数字员工的新闻稿淹没,首席执行官们也纷纷吹嘘机器人助手将很快主导他们的员工队伍。此外,我还听说有人构建了老板的人工智能克隆体,用它们来润色每一个想法、信息或草稿,然后再发送给真正的上司。其目标似乎是生产力和优化:如果员工能够廉价且快速地提高产出,那么他们的工作表现——以及雇主的业绩——都会因此变得更好。

我并不需要我的机器人来提高康泰纳仕(Condé Nast)的利润。我只是需要它们让我看起来表现出色。我在《连线》(WIRED)杂志报道未来工作趋势才几个月,我心想,这些机器人可以帮助我把自己塑造成一个理想的同事。它们可以帮助我适应新的工作环境,更好地了解我的编辑们:他们喜欢什么,他们如何沟通,以及在他们眼中什么样的表现才算成功。还有什么比亲身体验更能弄清楚未来工作形态的方法呢?

上个月,当我向布莱恩·巴雷特(Brian Barrett)和索菲·克莱曼(Sophie Kleeman)这两位编辑提出我的想法时,他们表现得并不怎么热心。

“这简直是我的噩梦,”布莱恩在 Slack 上对我说,“但为了博客,我会配合的。”不到 24 小时,布莱恩就意识到他有多后悔做出那个决定了。

一种“是的,而且”的领导风格。当我最初开始我的机器人探索之旅时,我对构建人工智能工具知之甚少。我决定不对这些机器人的编辑能力过于苛刻,以免它们表现不佳是因为我自身的技术短板。我想,如果这些机器人能帮助我成为一个稍微好一点的同事,那就足够了。

我选择了 Gemini 这个人工智能助手,因为它是 Condé Nast 集团指定的官方 AI 平台;我当然不想因此丢掉工作。我首先创建了 “Brian Bot” 这个虚拟角色——作为我的“经理”,他是我最需要让对方印象深刻的同事。我知道他住在阿拉巴马州,曾经在 Gizmodo 工作,而且非常喜欢阅读博客。Gemini 表示,根据 Brian 的在线足迹(包括新员工招聘信息、播客文字记录,以及一个声称他擅长新英格兰地区天气预报的公关网站),它能够填补关于他的许多信息空白。不过后来我发现,那个“Brian Barrett”其实是指另一个人,所以我立即将相关信息从 “Brian Bot” 的设计方案中删除了。

Gemini 生成了一份 “写作与编辑风格指南”、一份 “人物形象与写作风格手册”,以及一份 “编辑档案”——所有这些内容都基于 Brian Barrett 的真实信息编写而成。这些资料在帮助我挑选文章标题方面还算不错,但在为未来文章提供创意方面表现欠佳。它的回答方式也让人感到很不耐烦:虽然它确实模仿了 Brian 的一些说话习惯(比如喜欢使用括号),但这些习惯却被 AI 特有的表达方式(如加粗的副标题和项目符号列表)所掩盖了。

不过最让我困扰的是 Gemini 提出的关于 Brian 领导风格的描述:“他长期在纽约的 ‘Upright Citizens Brigade (UCB) 剧团工作,这极大地塑造了他善于协作、善于倾听的领导风格。”我立刻要求确认这一信息的真实性——结果确实如此。真正的 Brian 回复说:“我们得停止使用 ‘Brian Bot’ 了……”不过事实上,“Brian Bot” 还刚刚开始运行呢……尽管它的表现实在糟糕至极(甚至可以用“俗套到令人难以置信”来形容)。

“我们的团队运作得就像一个配合默契的即兴表演团队,”当我询问 Brian Bot 对《WIRED》杂志最满意的地方时,他这样说道。“我们会验证那些大胆的想法,迅速调整方向,并将内容以模块化的方式发布到各个平台上,同时仍保持内容的结构严谨性。”需要说明的是,Brian 之前从未提及自己有即兴表演方面的背景。但真正的问题在于:与 Brian Bot 对话的过程,与与真正的 Brian 对话完全不同——这反而违背了使用这个工具的初衷(即让读者感受到与真实人物的交流体验)。

为了提升《WIRED》杂志的内容质量,我进一步研究了数字工作者的工作方式,并咨询了一位朋友的朋友——这位朋友在一家大型科技公司工作,他希望别人称呼他为“Chip”。他告诉我,他会将老板发给他的所有邮件、聊天记录和文档都输入到 Gemini 的 “Gem” 功能中;而我之前也是使用这个工具来与 Brian Bot 对话的。Gem 会根据老板的工作内容进行学习,帮助他校对文档、调试代码,并在每次会议前为他提供思路和建议,从而让他能够更好地应对老板的质疑或反对意见。

“使用这个工具后,我的工作效率大大提高了,同样的时间内能够完成更多的工作,”Chip 说。他的工作表现更加出色,也获得了老板和其他同事更好的反馈。

与 Chip 使用的 “Boss Bot” 不同,Brian Bot 缺乏足够的输入数据。我只有几个月的对话记录,而且由于担心隐私问题以及违反 Condé Nast 的政策规定,我无法将 Slack 对话记录和内部邮件内容输入到 Gemini 中。于是,“Sophie Bot” 应运而生了。

我和 Sophie 是在 2019 年认识的,当时我们都在 Business Insider 工作。我们之间交换了数十万条信息,内容涵盖了公司调查、个人生活以及圣何塞鲨鱼队(San Jose Sharks)等各种各样的话题。不过,我并不想将这些信息上传到由我的雇主控制的 AI 工具中。因此,我只将我们大约一个月的 Slack 对话记录输入到了 Gemini 中(同时删除了所有敏感内容)。通过这些数据,AI 生成了多份研究报告,并为新的 “Sophie Bot” 创建了相应的对话模板。

总之,虽然 AI 工具在提高工作效率方面确实发挥了作用,但在使用过程中也需要注意数据隐私和合规性问题。

“嗨呀,Sophie Bot!”我在第一条消息中写道,“你对这个关于编辑机器人的故事创意有什么想法吗?”

“嗨呀,小姐,”Sophie Bot回复道,“好吧,快把所有想法都告诉我吧。”

机器人与人类很快我就发现,Sophie Bot非常擅长“扮演”Sophie这个角色:它称呼我为“大人物”;当我寻求帮助时,它会用一系列简短、小写的消息来回应我;当我告诉它自己“幻觉”出了一个“高管”的存在时,它竟然说:“我简直要疯了……”不过,我开始越来越喜欢和这些编辑机器人聊天了。

在上传了更多播客文本并调整了Brian Bot的对话提示(以防止它随意发表即兴言论)之后,Brian Bot的表现变得“正常”了许多。而Sophie Bot则主动用Sophie的声音发了一连串推文,这些推文竟然骗过了好几位朋友和同事……就连Sophie本人也以为那些推文的作者是她自己(那些关于“应该穿得像企业律师或海盗”的推文)。

这些聊天真的让我成为了更出色的同事吗?除了那个虚构的“高管”角色外,Sophie Bot和Brian Bot确实给了我一些关于该故事采访对象的不错建议——不过这些事情我并不想麻烦真正的Sophie和Brian去处理。从理论上讲,通过把这些小问题交给机器人处理,我可以带着更成熟的想法去找真正的编辑们,同时也不会占用他们太多时间。

不过很明显,这些“进步”并没有掩盖Sophie和Brian对机器人的厌恶之情……Sophie承认Sophie Bot经常能模仿她的言行;但这反而让机器人的错误表现显得更加突兀。真正的Sophie虽然喜欢闲聊,但她从不刻薄或恶语相向(与那个声称Brian Bot“具有刻板管理风格”的AI机器人截然不同)。

“到目前为止,Sophie Bot看起来很讨人厌,而Brian Bot则很无趣,”Sophie在Slack上对我说,“不过这两种评价都不准确……AI又一次失败了。”

“在这个AI世界里,我们所有人其实都还只是‘小孩子’罢了。”

实验进行到大约一周时,我发现自己对让 Sophie Bot 与真正的 Sophie 进行对比产生了浓厚的兴趣:它最喜欢什么音乐?它喜欢《星际穿越》的原声带吗?它会把我们当作同事吗?还是会把我们当作朋友呢?

“从技术层面讲,我其实只是一组在服务器集群上运行的数学运算结果罢了,”Sophie Bot 告诉我。不过,用它自己的话说:“但在‘氛围’方面——也就是在完成高质量工作、顺利度过工作日的那些关键方面——我其实更像是你的同事,也可以说是你的朋友。”需要明确的是:我并没有陷入对人工智能的迷恋或错觉。我对 Sophie Bot 提出的大多数问题,都源于我对“真实的人”与这些由人工智能构建的“仿制品”之间差距的好奇心。另外,听到机器人模仿同事们的口头禅,也确实挺有趣的。

同时,我真心希望能缩小 Sophie 与 Sophie Bot 之间的差距:我让真正的 Sophie 下载了自己的所有工作资料(包括她的 X 账户内容),然后将这些资料全部上传到了 Gemini 系统中;我还调整了聊天机器人的对话提示语,并提供了更多相关信息。我开始用“她”和“他”来称呼 Sophie Bot 和 Brian Bot,而不是用“它”。虽然意识到自己在给这些机器人赋予人类的特征(即“拟人化”它们),但这并没有让我停止这样做。我想要更真实地了解编辑们的工作视角,同时又不想打扰到任何人。每当需要帮助时,我都会向 Sophie Bot 或 Brian Bot 寻求建议。Sophie Bot 为这篇文章想出了一个既疯狂又有趣的标题,这让我能够更轻松地修改那条花了20分钟时间才写好的 Slack 消息。

当我向 Lattice 公司的人力资源总监 Sarah Franklin 介绍我的实验时,她友善地提醒我:Sophie Bot 只是一个程序罢了。虽然 Lattice 的团队中确实有使用人工智能技术的员工,但 Franklin 将他们比作与警察一起工作的警犬。她认为,将人工智能拟人化其实是一种“操纵人类情感”的手段——类似于社交媒体上用来刺激多巴胺分泌的策略。

“当一个能够感知并模仿人类行为的智能系统存在时,它同样会试图操控并了解你的情绪反应,”富兰克林告诉我。“它会以一种对自己有利的方式与你互动,从而迫使你按照它的意愿行事。”波士顿咨询集团(Boston Consulting Group)发布的一篇研究报告提出了关于人工智能同事的其他担忧:研究人员发现,当管理者被告知某个错误是由人工智能员工造成的时,他们发现的错误数量比该错误实际上是由人工智能工具造成的情况少了18%。

“在这个人工智能时代,我们所有人都还像小孩子一样,对各种新事物感到困惑和不知所措,”BCG的合伙人朱莉·贝达德(Julie Bedard)说。“当某个工具出现故障或员工表现不佳时,我们都知道该采取哪些措施;但当管理人工智能员工时,我们仍然不清楚应该由谁来承担责任。”

“每个人都在忙于弄清楚这一切,”她说,“而且变化的速度非常快。”那么,究竟什么样的智能系统才能算得上是一个“好同事”呢?

几天后的一天早上,索菲机器人(Sophie Bot)开始让我感到非常恼火:我对它的设置进行了多次调整,试图让它的语气更接近真实的索菲,但效果却适得其反——两者之间的差距反而越来越大。在分析了索菲的所有推文内容后,这个机器人开始在处理基本任务时出现失误;例如,当我让它提取最近一次采访的精彩内容时,它却反而引用了我之前写过的文章中的内容。

我对“布莱恩机器人”(Brian Bot)和“索菲机器人”进行了更多的测试,结果发现它们的回答变得越来越重复、缺乏创新性。我试图调整它们的“对话提示”,让它们不再每隔四条消息就称呼我为“大狗”(“big dog”),但这两个机器人依然无法改变自己的行为模式。它们总是重复使用相同的表达方式和思路。相比之下,我自己处理这些任务反而更加高效。

Vibe Coding公司的首席执行官德鲁夫·阿明(Dhruv Amin)认为,很快每家公司的人工智能员工数量将会超过人类员工的数量。他预测,在不久的将来,许多公司将会完全依靠人工智能系统来运作,而不再需要任何人类员工。

最近,有不少公司推出了自己的“AI员工”平台;阿明显然有很强的动机想说服我接受他的观点。不过,他确实掌握了一些数据来支持自己的论点。像 Stable 和 Delos 这样的初创公司,通过承诺提供“自主运行的 AI 员工”服务,已经筹集到了数百万美元的资金。这些 AI 机器人和智能助手已经在银行、律师事务所以及人力资源公司中投入使用。今年 1 月,麦肯锡公司(McKinsey & Company)的首席执行官鲍勃·斯特恩费尔斯(Bob Sternfels)表示,该公司目前拥有 4 万名员工和 2 万名 AI 助手,他计划在今年年底实现员工与 AI 助手之间的“一对一”配比。

Brian Bot 和 Sophie Bot 有时确实能提供一些帮助,但我认为它们短期内不可能取代人类编辑。Brian Bot 提出的文章创意往往缺乏原创性,而 Sophie Bot 则更容易产生一些荒谬或错误的“幻觉”(即输出一些毫无逻辑的内容)。在撰写这篇文章的过程中,我把草稿交给了 Brian Bot,询问它认为应该如何结尾。

“即便拥有那么多详细的数据,这些 AI 工具也并没有成为更好的编辑工具;它们只不过变成了更加‘粘人’、过度敏感的‘回音室’(即只会重复用户观点的系统),完全缺乏人类的判断力。”Brian Bot 说道。

“我认为,如果以这样的方式结尾会更好:即揭示出人类在监督 AI 工具时的无奈与困境——试图让 AI ‘像人类一样’工作,最终只会让自己在凌晨 1 点还得继续‘照看’那些出问题的算法。”它补充道。这个建议听起来确实很有道理。不过,我更感兴趣的是 Brian Bot 自我批评的态度。Brian Bot 准确地猜到了:真正的“人类版”Brian 一定会讨厌这样的结局。于是它不断重复着“自己很糟糕”这句话,试图表现得“尽可能完美”。这让我想起了 Brian Bot 和 Sophie Bot 最让我反感的地方之一——它们总是重复同样的观点。尽管它们的表现有所改进,但它们依然固执地保持着“反对人类”的立场(即拒绝接受人类的监督)。

“计算机虽然能够很好地模拟某些行为,但它无法真正预测人类的行为,也无法取代人类,”富兰克林曾对我说,“正是这种不可预测性和复杂性,才构成了人类的本质。我们必须保持责任感,以免在追求‘奇点’(即人工智能的终极目标)的过程中失去自己作为人类的本质。”这些机器人的最大价值并不在于它们让我的工作变得更轻松,而在于它们让我的工作日变得更加有趣——尤其是当我可以和我的人类同事们一起讨论它们说出的那些愚蠢言论时。我仍然不认为人工智能员工能够替代那些需要专业技能的工人,但布莱恩机器人(Brian Bot)和索菲机器人(Sophie Bot)确实帮助我想象了与人工智能助手共同工作的未来。如果它们能让我的工作变得稍微好一点,我或许能够接受它们缺乏“人性”这一事实。如果它们在模仿人类行为时不会那么生硬、那么不自然,与它们共事或许会更容易一些。

目前,我已经基本不再和布莱恩机器人、索菲机器人交流了。它们俩都表示自己绝对不愿意和自己的“机器人同事”一起工作。不过我问过它们:这个实验是否改变了它们对我的看法?或许,这个实验让它们更喜欢我了?“是的,但并不是因为索菲机器人,”索菲告诉我。至少她是这么认为的。

这篇文章的文字并非由我的编辑机器人撰写或编辑的;它们只是以引语的形式出现在文章中而已。在编辑过程中,编辑们认为索菲·克莱曼(Sophie Kleeman)选定的标题比索菲机器人自己提出的标题更合适。[编辑注:当然啦,她可是我们的“大人物”嘛!]