佛罗里达州萨拉索塔——这场Facebook广告活动始于7月,即萨拉索塔县委员会共和党初选前六周。委员会是一个五人小组,负责制定预算、任命县行政长官并对分区和土地利用进行投票。在其中一则广告中,一幅通过人工智能生成的图像描绘了时任委员、共和党脊椎按摩师乔·纽恩德(Joe Neunder)在烛光晚餐中亲吻希拉里·克林顿的情景。在另一张图片中,纽恩德拿着一枚巨大的印章,意味深长地骑在一个戴着安全帽、标有“大开发”字样的西装革密男人的肩膀上。在其他图片中,他有着匹诺曹式的鼻子,双臂交叉站在旋转的100美元钞票和收据中间,旁边还配文称他监督了一场政府挥霍无度的支出狂潮。
底部横幅写着:“由地方政府问责公司(Local Government Accountability Inc.)赞助”。这些广告带有粗糙的人工智能喷枪艺术的特征,并带有廉价图像生成器的错误。研究人员称之为“低质垃圾宣传”(slopaganda)。根据竞选财务记录和一份不断增加的将失败归咎于虚假广告的候选人名单,在本次选举季中,许多共和党人和一些民主党人对这种宣传进行了热烈地追捧。
但地方政府问责研究所(简称LGAI)更进一步。其创建者似乎利用人工智能创建了一个冒充无党派智库的虚假组织。在其网站上,LGAI被描述为一个调查地方政府财政并发布城市和县支出法务审查报告的非营利组织。
但它的运作、战术和动机更符合政治攻击行动的特征。虽然LGAI刊登广告并发表文章反对萨拉索塔竞选中的特定候选人,但该组织并未披露其员工信息,未在佛罗里达州选举官员处注册,以华盛顿特区的一个邮箱作为其地址,通过隐秘代理人注册成立,其电话由一家签约呼叫中心接听,该中心的接待员被告知不得泄露有关该组织的任何信息。从设计到内容,LGAI的网站完全呈现出由人工智能完全生成的特征。它充斥着关于萨拉索塔财政状况的所谓原创“白皮书”和“研究”,以此作为攻击纽恩德等地方候选人的支持材料——这些文章读起来就像人工智能的发烧梦。
目前尚不清楚谁是LGAI的幕后黑手,但他们所建立的这一切可能成为一个选举季的风向标,而这个本已因暗钱、深度伪造攻击广告、欺诈性民调机构、未公开的有偿背书、虚假记者和“粉红泥浆”新闻网而受损的选举季正面临着新的威胁。
LGAI是暗钱运作的一个外壳——对于任何试图在匿名掩护下影响选举的人来说,这是一个经济实惠且合法的选择。普渡大学副教授、治理与负责任人工智能实验室联席主任丹尼尔·希夫(Daniel Schiff)表示,该网站还揭示了一种人工智能可能赋能一个本已具有欺骗性的政治生态系统的新方式。他说,这种由人工智能构建的组织可以为转瞬即逝的政治运作增添可信度,使任何人都能利用类似的网站操纵搜索结果和人工智能答案(为了解人工智能机器人如何轻易被看似权威的虚假内容欺骗,可以参考那位记者与热食热狗大赛的案例)。希夫将其描述为“黑暗政治与死网理论的交汇点”。他说,风险在于,像LGAI这样廉价组织的泛滥可能会稀释信息空间,并削弱合法机构的可信度。
希夫表示,虽然LGAI提供的内容对普通选民来说可能是显而易见的垃圾,但正如其他人工智能产品一样,这些造假手段将会变得更加复杂。
他说:“组织和工具本身将更擅长创建更具说服力、人工痕迹更少的内容版本。”
针对纽恩德和另一位共和党委员马克·史密斯(Mark Smith)的人工智能攻击广告在Facebook上运行了一个月左右,通过LGAI的账户以及另一个名为“美国民调研究”(US Polling Research)的账户发布。根据Meta的广告库,这些页面背后的实体总共花费了约20,000美元,让这些广告在萨拉索塔人面前展示了五十多万次。
纽恩德在初选中以798票(约6个百分点)的差距输给了萨拉索塔警察局退休中士吉姆·德尼罗(Jim DeNiro)。他不会将失败归咎于LGAI,但他仍然对那些他认为是阴谋诡计的做法感到痛苦——他称之为未来选举恶作剧的“测试版”。
纽恩德告诉我:“这是一场旨在欺骗选民的协调行动。我只想要一个公平的竞争环境。”纽恩德不知道LGAI或“美国民调研究”(一个发布了50多条萨拉索塔广告的Facebook主页)的幕后黑手是谁。他怀疑当地开发商和政治特工可能是罪魁祸首,但他无法确定。
非营利新闻网站《佛罗里达三叉戟》(Florida Trident)的调查记者迈克尔·巴菲尔德(Michael Barfield)也不知道。巴菲尔德在8月初首次对该组织进行了报道,在深入研究LGAI网站的后台后,他发现了标有“作战室”的文件。其中一些文件详细说明了其人工智能生成材料的设计提示词和流行短语,人类用这些提示词和短语喂给人工智能以创建LGAI的内容,其中包括“巨大的红色数字”、“一针见血的狠话”和“愤怒钩子”。巴菲尔德报道称,人工智能将自己的一些图形和报告标记为具误导性或缺乏支持,但这些警告被忽略了。
经过一周的报道,我离弄清LGAI的幕后黑手是谁并没有更近一步。几封电子邮件石沉大海,多次拨打该组织电话都转到了呼叫中心,一名工作人员告诉我该呼叫中心是LGAI外包的。当我要求与负责人通话时,接听电话的多位女士让我转语音信箱,因为负责人——被称为“他”——很忙、在开会、在吃午饭,最后是不愿意与我交谈。接线员要求我不要再打电话,并拒绝帮我转接语音信箱。
当被问及我还可以和谁交谈时,接线员告诉我没有其他人了。“只有马丁·马泰(Martin Ma-TAY),”她说。当我问如何拼写他的名字时,她道歉并说她不应该透露。目前还不清楚她可能指的是谁。这可能是一个假名,对该姓氏各种变体的公开记录搜索并没有发现任何与LGAI有潜在联系的名为马丁的人。
另一个播放广告的Facebook主页“美国民调研究”自2019年以来就一直存在。它将自己描述为一个“非党派、无偏见的舆论研究网站”,旨在“了解美国人的意见——真实的意见,就像你的意见一样”。除了最近的萨拉索塔广告外,其Facebook主页很空旷,似乎是一个古老的互动农场——数字营销人员在互联的Facebook主页上发布诱饵来收集联系人并出售名单。2019年发布到“枪支之爱”(Guns Love)页面的2019年美国民调研究调查询问政府是否应该没收突击步枪,并通过提供贝茜·罗斯(Betsy Ross)国旗的特别优惠(包含免费硬币)来感谢投票者。
“美国民调研究”托管过几个网站,包括uspolling.com、uspollingresearch.com和uspollinginstitute.com。它运行在WordPress上,其中包括一个名为lukamin的用户账户,还有一个图形仍然带有“lukavetticubrilo”的名字。卢卡·库布里洛(Luka Cubrilo)是数字广告公司Vetti Media的联合创始人。
库布里洛没有回复置评请求。Vetti Media的另一位联合创始人斯科特·乔丹(Scott Jordan)回复了我的电子邮件,并表示除了“多年前开设了一个Facebook页面”之外,库布里洛和Vetti Media都没有参与萨拉索塔的广告。乔丹表示,他是通过他拥有的另一家企业被雇用发布这些广告的,保密条款使他无法透露更多信息。
在关于LGAI和广告的更广泛的电子邮件对话中,乔丹认为人工智能已经“使政治广告民主化”。
乔丹说:“自从这些工具问世以来,候选人一直利用平面设计以负面眼光展现对手并投放数字广告。现在,你不需要聘请拥有顶级平面设计/视频团队的昂贵媒体机构,也不需要具备太多技术技能来创建和分发视觉上强大、有效的选举内容。”