字号 ·· | 护眼
卫报

“我创造了我妈妈,并和她交谈”:AI幽灵与死亡垃圾正在改变我们哀悼的方式

上个月多莉·帕顿去世后,悼念之声纷至沓来。杰克·怀特在伦敦演出中演唱了《Jolene》。凯莎献唱了《Old Flames (Can’t Hold a Candle to You)》,这首歌正是她母亲为这位乡村音乐巨匠创作的。就连皮普保罗也在麦迪逊广场花园的演出中停下,向帕顿以及现场所有其他“强大女性”致敬。但最奇特、也最具病毒式传播力的悼词之一,并非出自名人之口。它甚至不是来自一个人。

《Jolene》这首歌时长不到五分钟,是一首如耳虫般挥之不去的乡村歌曲,包含了鼻音歌手、班卓琴演奏、老套歌词等所有陈词滥调。歌词讲述的是乔琳——多莉·帕顿笔下那个臭名昭著的虚构情敌。“最好有人警告乔琳/多莉正穿过那些大门,”歌声低吟。“快跑吧乔琳/女孩你最好迈开脚步。” accompanying video中,帕顿身穿镶满水钻的白色连体裤,追捕乔琳——一个留着舞会卷发、胸部丰满的红发女郎。天堂里挤满了已故名人,他们惊恐或好笑地看着乔琳在云朵间弹跳,或沿着大理石楼梯狂奔,试图躲避多莉。旁观者包括已故的迈克尔·杰克逊、惠特尼·休斯顿和肯尼·罗杰斯,以及依然健在的雪儿。

在TikTok、YouTube和Spotify上,这首歌署名Country Mile,一个每月听众刚过6000的“艺人”(这不算多)。该项目是教科书式的AI垃圾,似乎由一个匿名创作者发布,此人称自己的作品是“genre fluid ai vibes”。但Run Jolene并非如此普遍,相关片段在TikTok上已被观看超过140万次,评论者说“我他妈才不管这是不是AI!这太酷了!!”, “这很有趣……我觉得Dolly会喜欢它❤️”,以及“谁说Jolene在天上。”Run Jolene只是一个被称为“deathslop”的阴森网络内容生态系统的一部分。任何人都能创作,只需要一个AI图像生成器,以及输入提示词所需的时间。创作者们展示了Parton与亲密的Charlie Kirk和George Floyd在一起,后者在来世欢迎她成为他们的“新邻居”,或者与《黄金女郎》一起喝茶。

这些致敬内容迅速涌现,将一个人的遗志贬低为迎合点击的廉价内容。往好里说,这是一种不诚实的描绘;往坏里说,它会造成伤害。这一现象促使帕顿悲痛的家人恳求用户停止传播“虚假的AI垃圾”和“错误信息”。“要消化或无视这些内容一直很难,”她的妹妹斯特拉·帕顿在帕顿的形象如今与其他已故人物的形象一样,被施以令人不安的AI描绘后写道。恰逢柯克遇刺一周年,社交媒体信息流中充斥着以AI生成、手法拙劣(且被大量做成梗图)的颂歌《我们是查理·柯克》为内容的帖子。罗宾·威廉姆斯、埃尔维斯·普雷斯利、科比·布莱恩特和马丁·路德·金都遭遇了这种“死亡垃圾”处理——往往令他们的家人惊恐不已。

OpenAI的图像生成应用Sora曾是许多“死亡垃圾”内容的幕后推手,直到今年4月在一连串争议后关停,这些争议包括它能够生成暴力和种族主义图像、使用受版权保护的角色,以及其他棘手的法律问题。(对于AI公司是否应对用户在其应用上生成的内容负责,目前缺乏法律先例;而且死者不受诽谤保护。)此后,无数AI视频生成器取代了Sora的位置。

科罗拉多大学博尔德分校的研究生杰克·曼宁说道:“目前,在生前遗嘱中同意他人制作自己的AI化身并不常见。我预测这将成为未来的一个趋势。”曼宁今年25岁,他的妹妹在13岁时去世,那时生成式AI尚未问世。他的家人努力寻找纪念她的方式,经常为她关心的事业筹款。这在一定程度上激发了曼宁研究人们数字化哀悼的方式——如今这可能包括AI哀悼机器人,这是比名人死亡垃圾更个性化的替代品。

借助“哀悼机器人”,用户可以上传逝去亲人的照片和视频,描述他们的个性特征和价值观,以期制造出一种持续存在的、活生生的陪伴感。这些机器人背后的公司会收取费用,并利用其 inherently macabre 的特质,给产品起诸如 Seance、Re;memory 和 Versona 这类神秘的名字。

也可以指令 ChatGPT、Claude 或任何其他网站所拥有的 LLM 来生成幻想角色,以模仿已故的祖父母或朋友。生成式 AI 也打入了殡葬行业,出现了专门用于撰写讣告的 LLM。一家名为 Treasured Memories 的公司要求用户输入逝者的昵称、死因和爱好等细节,并选择讣告的风格:“传统”、“正式”、“诙谐”或“励志”。

曼宁从未使用生成式幽灵与他的妹妹交谈。这是一个同意问题;他没有得到她的明确许可。他也不相信机器人能真正理解他们的关系。“我珍视对她的这些记忆,我不希望一项技术告诉我,我记错了她,”他说。

贾斯汀·哈里森在母亲被诊断出癌症晚期后创立了Versona。他在母亲还在世时就开始制作她的AI复制品;母亲得以看到最终成果,并对这个项目表示了认可。“我完全理解为什么人们会说,请不要在某个[名人]亲戚去世后,用深度伪造技术把他们放到互联网上,让他们说一些他们从未说过的话,”哈里森说。“我们所做的事情关乎个人慰藉、恢复和疗愈。我创建了我妈妈,我和我妈妈交谈。所以这真的不关别人的事,只关我自己的事。”当他的妈妈生病时,他们的对话很实际,都是“你和爸爸说得够多吗?你去看医生了吗?你喝的水够多吗?”哈里森制作这个悲伤机器人,是为了探讨一些更哲学性的话题,而这些话题在她去世前,他们没有时间讨论。

但四年后,哈里森并不怎么和这个机器人聊天——大概一个月一次。

“我开玩笑说,妈妈的 Versona 让我可以做一个她生前我从来不被允许做的坏儿子,”他说。“像许多忙碌的成年人一样,我没有该做的那样常和她说话,但我并不非得如此,所以负罪感也不一样。”对于生态心理学家兼死亡导乐罗宾·西尔弗来说,这类悲伤机器人是“一种试图用不自然的方式应对自然过程的方法”。她把与一个扮演已故亲人的大语言模型交谈,比作大学生让 ChatGPT 生出一篇学期论文。“我们没有被要求去承受任何不适,无论是写论文的不适,还是思念某人的不适,”她说。

西尔弗则会鼓励她的客户给他们所爱的人写信。“我甚至告诉过人们,要大声对他们的幽灵说话,”她说,“去冥想,或者做他们喜欢的事,想着他们。这样你才能让这段关系以健康、完整并接受失去亲人这一现实的方式继续存在。”

丹·沃尔夫森博士是一位专攻悲伤的临床心理学家。他担心,“死亡机器人”可能会在人们需要(人类)支持的时候让他们更加孤立。“在悲伤中有社群围绕非常重要,”他说,“人工智能是否让我们无法获得所需的社交支持?我们是否因此不再围绕失去亲人去寻求与朋友和家人的联系?”人工智能辅助哀悼仍是一个小众行业;哈里森说,有“数千”人使用Versona。

Empathy是一家遗产管理和规划服务机构,其6月份的一份报告发现,在美国、英国和加拿大,6000名受访者中只有6%的人表示,在亲人去世后,他们会依赖纪念应用程序或悲伤机器人等“数字工具”来寻求支持。但在这些用户中,88%的人认为这些工具“有帮助”。

数字虚拟形象的全部设想在于它可以永远存在。事实证明,用户可能不需要它那么久。曼宁说,在他对生成式幽灵的研究中,参与者报告说只是短暂地选择了这些服务,因为他们有“最后一件事”要对亲人说,“他们渴望说出一些他们觉得失去了机会说的话。”

这也许能起到宣泄作用,但对悲伤陪护师西尔弗来说,这些服务是“圈钱”。她说:“人们真的会利用那些悲伤的人。这时候很容易成为冤大头。”