字号 ·· | 护眼
The Intercept

面对愤怒的居民,弗洛克得到了一个利用人工智能来争取公众支持的团体的帮助

关于田纳西州诺克斯维尔市安装 Flock 监控摄像头的争议在今年七月达到了白热化程度,当时一位全职妈妈收到了一条来自一个她从未听说过的非营利组织的短信。

这个名为“Neighbors for Strong Communities”(“为强大社区而努力”的组织)请求阿什莉·史密斯公开表态,支持 Flock 公司生产的那些备受争议的车牌识别设备。该组织甚至提出使用人工智能来帮助她起草致当地官员的电子邮件。

阿什莉·史密斯是四个孩子的母亲,她注意到:只有在她表示支持 Flock 监控系统的情况下,才会收到相关短信。

她没有选择支持 Flock 公司,反而自己写了一封愤怒的邮件,向当地官员以及一家当地博客揭露了他们所谓的“隐蔽性公关活动”。她在邮件中写道:“如果那些与这项监控技术有关联的势力都如此不择手段地欺骗民众以获取选票,那么他们又会如何处理我们每个人的行动记录呢?一家制造虚假信息、操纵舆论的公司,根本不可能尊重我们的数据保护政策或诺克斯县居民的隐私。”

这条发给史密斯的短信几乎没有透露关于 Flock 宣传活动的任何详细信息。

事实上,这场宣传活动是 Flock 公司与一个新成立的非营利组织“合作”的结果;该非营利组织此前也曾使用类似手段来支持派拉蒙·斯凯丹斯(Paramount Skydance)与华纳兄弟探索公司(Warner Bros. Discovery)之间的合并提案。反对这次合并的人将该非营利组织的行为称为企业“虚假草根运动”——即通过制造虚假的民众支持声浪来影响公众舆论的伎俩。

尽管这些短信以及人工智能生成的宣传内容并未成功说服诺克斯维尔的官员,但上个月,该县委员会还是成为了最新一个决定取消与 Flock 公司合作协议的市政机构。

无论是派拉蒙与斯凯丹斯的合并案,还是 Flock 监控系统的案例,都引发了人们对“什么是真正的草根组织”的质疑。

“拥有 Flock 摄像头的人们其中一个担忧是:‘我们能信任你吗?’”史密斯告诉 The Intercept。“而这种对人们愿望的操纵已经表明,他们行事隐秘,也不愿意分享诚实的信息。”Flock 和 Neighbors for Strong Communities 没有回应置评请求。该非营利组织在其网站上表示,它在支持 Flock 的活动中发挥了主导作用。“Flock Safety 带来了公共安全技术方面的经验。Neighbors 独立设计并管理了这项居民参与活动,帮助诺克斯县居民直接与地方决策者分享他们的经历,”该组织说。

然而,自由新闻(Free Press)联合首席执行官克雷格·艾伦表示,没有任何迹象表明 Flock 获得了真正的草根支持激增。自由新闻是一家非营利倡导组织,对派拉蒙合并案和 Flock 都持批评态度。

“这很大程度上是一个伪草根项目。我的意思是,那里没有邻居,也没有社区,”他说。“它之所以是伪草根,是因为其伪造的草根性质。”

“你谈论的简直是眼下最不受欢迎的技术之一,”艾伦补充说,“以至于人们因为不喜欢被监视而拿着电锯去锯路灯杆。”Neighbors for Strong Communities 的短信可能看起来像是来自附近的人。

史密斯收到的关于 Flock 摄像头的短信来自诺克斯维尔的一个区号。在加利福尼亚州,居民收到的关于派拉蒙合并案的短信来自洛杉矶的一个区号。

在这两种情况下,居民都会被问到一系列问题,而在至少某些情况下,这些问题的答案会被 Neighbors for Strong Communities 用来起草由人工智能生成、发给公职人员的电子邮件。

尽管它发送短信所使用的区号如此,Neighbors for Strong Communities 是在华盛顿特区于6月注册成立的。

虽然该组织在其网站“关于”页面上没有列出董事或员工成员,但其公司注册文件显示其董事包括几位政治顾问,其中至少有一位前游说者。

在“Neighbors for Strong Communities”的至少两位董事也帮助创立了 Influent,这是一家利用人工智能生成给选举官员信件的公司。向Knoxville居民发送的短信链接到一个包含“influent”字样的网址。Influent是否与Flock有业务关系尚不清楚。(Influent未对置评请求作出回应。)Neighbors for Strong Communities 网站上专门针对Knox County 的页面展示了一张手有六根手指的男子照片——这是一种罕见的状况,也是 AI 生成图像的标志。页面称 Flock 的支持者是“真实的人”。Smith 表示,她收到来自 Neighbors for Strong Communities 的短信时感到困惑,因为她从未听说过该组织,尽管她长期参与当地政治。在给她的消息中,该组织似乎强调了当地联系。

短信内容写道:“Knox County Neighbors for Strong Communities 正在请当地居民在周一投票前发声,支持具有强大隐私保护的负责任车牌识别器。” “回答两个快速问题,我们将帮助你生成一封个性化信息,敦促当地领导支持这一实用的公共安全工具。” 她两次填写了 Neighbors for Strong Communities 的表格,第一次表示她反对车牌识别摄像头,随后她说。只有在第二次尝试时,她假装支持摄像头,才得到了一封给县委员的电子邮件草稿。该草稿并未表明使用了人工智能或与非营利组织的关联。

这段经历让 Smith 感到不安,她确信自己会听说 Knoxville 的一个草根组织,因为她多年来一直在当地保守派政治中组织活动。

“这太可疑了,”史密斯记得自己这样对自己说。“如果你是反对党,他们不会让你把它发给你的委员。但如果你支持,他们会把它发给所有的委员。“史密斯开始挖掘-她使用人工智能来帮助。她的搜索发现了Neighbors for Strong Communities在华盛顿特区的注册文件诺克斯与她的县专员安迪·福克斯以及当地政治的热门Facebook页面分享了她的发现。她指出,该非营利组织提供的地址与华盛顿特区的一家意大利餐厅共享(该组织此后更新了其地址,并与加利福尼亚州圣莫尼卡的一家UPS商店共享该地址。)当Facebook页面分享她的发现时,至少有九名居民发表评论称他们也收到了短信。“强大社区邻居”的干预正值弗洛克面临危险的时刻。

该公司已经从诺克斯县治安官办公室获得了超过200万美元的收益,但县专员表示,他们从未被要求批准合同。

左右的居民对隐私保护以及摄像网络被流氓执法人员用来跟踪前浪漫伴侣的历史表示担忧。

该非营利组织的外展工作似乎引起了一系列发给委员们的电子邮件,认为需要摄像头来预防犯罪。前无任专员Larsen Jay分享了他从支持使用车牌阅读器的选民那里收到的八封电子邮件。

这些电子邮件都不相同,但它们的语言足够相似,足以给杰伊发出危险信号,杰伊在委员会的工作已于八月底结束。

杰伊与The Intercept分享的电子邮件似乎来自诺克斯维尔地区的真正居民。两名居民向The Intercept证实,他们已发送电子邮件支持Flock,尽管其中一人表示她后来改变了立场。

尽管有几封邮件包含了个性化的信息,但杰伊仍认为那些支持 Flock 的邮件本质上只是“格式化的官方信函”。在面对面的交谈中,杰伊表示:反对 Flock 的声音占压倒性优势(比例高达 99%)。

“这显然只是一场公关活动罢了,”杰伊说,“别利用我的员工来参与这场活动;当我意识到这一点时,我就有了这样的感觉。”在支持 Flock 的活动结束后不久,非营利组织“Neighbors for Strong Communities”在其网站上为自己的宣传策略进行了辩护。

该组织承认自己确实使用了技术来帮助居民撰写致县官员的信件,但同时也表示所有信件的草稿都是由人工智能生成的,所有居民都必须亲自签署这些草稿才能正式发送。

“技术在这场活动中确实起到了作用,但那从来都不是活动的核心目的,”该组织在其网站上写道,“这些居民都是真实存在的人,他们有着真实的经历;无论他们是否同意所有的政策主张,他们的声音都应该在影响社区决策的过程中被听到。”目前尚不清楚该组织是如何处理那些反对使用 Flock 相机系统的居民的反馈的。该组织在网站上表示他们“听取了”这些反馈,但在被进一步询问时并未作出任何回应。

Flock 与“Neighbors for Strong Communities”之间的合作在最初几乎未被外界注意到;直到几周后,当该非营利组织与 Paramount Skydance 合并时,这一合作才引起了公众的关注。批评者指出,该组织此前在诺克斯维尔(Knoxville)的活动行为,从而开始质疑:为什么一个非营利组织会参与如此截然不同的公益项目。

反对这次合并的人认为,该组织在加利福尼亚州开展的活动完全符合“虚假草根运动”(即旨在制造虚假草根支持氛围的虚假宣传活动)的特征。

该组织最近再次引发了负面关注:一位批评该合并协议的人士发现,该组织使用的人工智能文本生成工具竟然将她原本对该协议的批评言论改成了支持该协议的言论。该非营利组织的发言人将这一现象归咎于“最近的一次系统升级”。在诺克斯维尔,组织“Neighbors for Strong Communities”似乎在事后承认自己与Flock公司合作开展了支持该公司的宣传活动。不过,该组织至今仍未公开其资金来源。

密歇根大学罗斯商学院教授托马斯·莱昂(Thomas Lyon)专门研究企业公共关系领域,他表示:即使这些宣传活动是通过普通公民撰写的信件或电子邮件来进行的,它们仍可以被归类为“草根造势”(即虚假的公众支持运动)。莱昂指出,在人工智能技术出现之前,为企业开展此类活动的公关公司有时会直接打电话给民众,主动提出代他们撰写致政府官员的信件。

与“Neighbors for Strong Communities”两位董事有关联的Influent公司在其网站上宣称,他们的宣传方式与其他企业影响力推广活动有所不同。该公司在宣传材料中写道:“那些千篇一律的、模板化的宣传信件根本毫无价值;每一封Influent公司发出的信件、推文、电话或信息都是根据具体情况量身定制的,每一条内容都体现了发送者的真实意图。”不过,根据另一位县委员的说法,该非营利组织显然并未做到这一点。作为阿什利·史密斯(Ashley Smith)在委员会中的代表,安迪·福克斯(Andy Fox)向《The Intercept》杂志透露,他收到了数十封支持Flock公司的“模板化”电子邮件。他表示:“这种做法让我感到非常不适。”

这篇文章《面对愤怒的居民,Flock公司得到了一个利用人工智能来争取公众支持的组织的帮助》最初发表在《The Intercept》杂志上。