吉米·基梅尔目前正在夏季休假，暂别他在ABC的深夜脱口秀节目。但普通观众如果以为这位主持人还没离开演播室，也是情有可原的。社交媒体上的视频似乎显示他对各种事件发表评论，从特朗普总统在会议中睡着，到总统攻击密歇根州参议员候选人阿卜杜勒·埃尔-赛义德。

显示基梅尔和其他深夜脱口秀主持人的伪造视频正在社交媒体上大量涌现。这些视频使用生成式AI制作，在某些方面比伪造其他类型的名人更容易——而且可能更具破坏性。

在线出版物《》的创始人兼编辑杰德·罗森茨韦格一直在调查这些深度伪造视频的兴起。他表示，深夜脱口秀主持人特别容易在社交媒体上被仿冒成视频模拟，因为观众很容易接受他们出现的背景。

“吉米·基梅尔确实经常上电视谈论政治，这些片段也确实每天都被发到社交媒体上，”罗森茨韦格说。“所以如果你看到一个与特朗普昨天做的事相关的基梅尔缩略图，那里有一种内在的背景和信任，给它提供了某种伪装。它只需要看起来像是已经满是基梅尔片段的信息流中的又一个基梅尔片段。”罗森茨韦格说，这些独白并非真实，有一些明显的迹象。

“手势很奇怪。文案听起来不像现场独白。大约10秒后，基梅尔消失，克隆的声音只是覆盖在新闻画面上，”他说。

然而，其中一些视频获得了数十万次观看，并引发评论，表明至少有些人认为内容是真实的。一位观众在YouTube上评论道：“谢谢你，吉米，说出了真相。”罗森茨韦格说，虽然其他主持人如乔恩·斯图尔特也是这些AI模拟的受害者，但深度伪造尤其令人担忧，因为这位主持人与特朗普政府的关系特别紧张。

特朗普总统多次呼吁解雇基梅尔。罗森茨韦格说，这些伪造视频（其中许多取笑或批评特朗普）可能会加强政府的决心，尤其是在联邦通信委员会和ABC就言论自由权利进行法律斗争之际。“ABC每晚都因吉米·基梅尔所说的话而受到审查，”罗森茨韦格说。ABC没有回应NPR的置评请求。

这些AI生成的脱口秀主持人作为一种类型，在某些方面比其他类型的名人深度伪造（如歌手和）构成更大的威胁。它们通常更容易制作，因为这些主持人通常只是站在或坐在一个地方对着镜头说话，而且网上有大量高质量音频录音可供克隆他们的声音。

“在很多情况下，我可以从深夜节目主持人那里取一张图片，然后直接让它动起来，”达特茅斯学院计算机科学教授、深度伪造分析专家哈尼·法里德说。“这里有声音，十五秒。这里有脚本。开始吧。”法里德还说，深夜电视是许多美国人获取新闻和验证观点的渠道。

“我们看到的深度伪造，本质上是虚假信息活动，现在似乎从我们习惯倾听的那些人的声音中传出，”法里德说。“所以它们相当有效。”尽管观众人数在下降，仍有大约四分之一的美国人定期观看深夜脱口秀。根据美联社-NORC公共事务研究中心2025年的一项调查，这些观众中大多数是民主党人，而且他们更多地在网上观看片段，而不是在常规线性电视上观看完整节目。法里德和罗森茨韦格都表示，这可能解释了为什么在社交媒体上更难找到来自右倾脱口秀主持人的AI深度伪造独白。

“我看到的更多是骗局和欺诈方面的内容，”法里德说。“就像‘肖恩·汉尼提说你该买这种加密货币！’”包括吉米·基梅尔、乔恩·斯图尔特、肖恩·汉尼提和格雷格·古特菲尔德在内的主持人代表拒绝或没有回应NPR的置评请求。

少数制作脱口秀主持人深度伪造视频的创作者没有回应NPR关于他们动机的问题。法里德说，他们可能是出于意识形态原因——或者为了赚钱。“纯粹是点击诱饵。吸引眼球。赚广告费。就这样，”法里德说。

托管这些AI垃圾内容的平台正试图加以监管。TikTok以及拥有YouTube的谷歌和拥有Instagram的Meta都向NPR发送声明，表示他们要求深度伪造内容的创作者将其标记为AI制作。他们表示，使用肖像检测和审核技术来查找未经授权的深度伪造，并提供方式让这些模拟的受害者自己请求删除。

“我们使用多年来为打击垃圾邮件和点击诱饵而开发的系统来处理低质量或欺骗性的AI内容，”谷歌（YouTube为其子公司）的声明说。“随着这项技术的发展，我们开发了行业首创的工具来保护公众人物和公民领袖的肖像，并自动对逼真的AI内容应用标签，以便观众了解。”

“我们要求人们在使用我们的AI披露工具时，披露他们发布的任何包含照片级真实视频或逼真音频的数字创建或修改的有机内容，如果他们不这样做，我们可能会施加处罚，”Instagram和Facebook母公司Meta的声明说。（Meta要求NPR提交一个来自Instagram或Facebook的深夜脱口秀深度伪造视频示例，以便回应问题。该公司确认，在NPR通知后，它撤下了那个以基梅尔为特色的页面。）“TikTok的政策是删除有害的深度伪造，并另外要求对不违反规定的逼真AI内容进行标记，”TikTok的声明说。但这些视频出现的速度和数量意味着许多视频会漏网。

一个关于意大利总理乔治亚·梅洛尼的乔恩·斯图尔特深度伪造视频在TikTok上已经存在了两个多月。它没有可见的AI标签。同样，YouTube上一个深度伪造基梅尔谈论特朗普吹嘘自己高尔夫球技的视频，在发布三周后，截至本文发表时仍在线。它已有超过23万次观看。

除了平台打地鼠式地试图清除深度伪造之外，目前几乎没有法律补救措施来应对这个问题。

“针对深夜脱口秀主持人等事物的深度伪造问题，目前落入了法律的一个空白地带，”处理人工智能案件的知识产权诉讼律师路易斯·汤普罗斯说。

汤普罗斯说，现有的版权法只打击未经授权使用创意作品的行为，而不是未经授权使用创意人物的合成替身。然而，加利福尼亚州和田纳西州等少数几个州确实提供了针对AI生成的声音克隆和视频深度伪造的保护。越来越多的州已经制定了护栏，或现在要求在政治广告中使用的深度伪造进行披露；去年签署成为法律的联邦《TAKE IT DOWN法案》将未经同意发布私密深度伪造定为犯罪。但这并不涵盖非性内容的深度伪造，比如脱口秀主持人的评论。

与此同时，几位深夜主持人，如约翰·奥利弗，已经在他们的节目中谈到了深度伪造的危险。技术上的缺点也为喜剧提供了素材。

“这一切的无节制增长确实有一些真正的缺点，其中一些诚然相当轻微，”约翰·奥利弗在2025年关于这个话题的节目中说道。“比如，我们很多人现在不得不向父母解释，他们在Facebook上看到的那个令人难以置信的东西不是真的。”