根据《连线》看到的一项新研究，过去几年里，欧洲各地近150名政客被列入有害的深度伪造色情网站。这些政客绝大多数是女性，其中一些人的形象被植入露骨视频，另一些人的姓名和照片则被列在令人不安的、类似数据库的条目中，而这些条目可以链接到深度伪造制作工具。
研究员本杰明·舒尔茨对约160个托管深度伪造滥用和其他未经同意的性内容的域名进行了分析，结果发现，至少有138名来自22个欧盟国家的女议员在这些网站上出现或被提及。相比之下，仅有9名男议员以任何方式被提及。根据舒尔茨的计算，女议员被深度伪造生态系统盯上的可能性要高出33倍。
“Deepfake porn is part of a much bigger trend of online hate and intimidation against women and female politicians,” says Suzanne Kröger, a Dutch member of parliament with the Progressive Netherlands group, who was impacted. Kröger, who expressed anger at what the research uncovered, says the findings are “really deeply disturbing” and help to reveal the scale of abuse. “We are politicians, we have a platform and speak out,” Kröger says. “But meanwhile, there are millions of women victims of these criminal acts.” The research, which has been published by German digital democracy think tank Agora Digitale Transformation, focuses on national members of parliament from all 27 countries in the European Union. Shultz, a fellow at Agora and the lead researcher at the American Sunlight Project, compiled the details of more than 5,800 members of parliaments across Europe in July and then used custom search engines to find where they appeared across the deepfake websites. (The research does not include members of the European Parliament). Politicians from Germany, the Netherlands, Italy, and France appeared on the websites the most, according to the findings, and the more senior a politician is, the more likely they were to be targeted. Shultz alerted all of the MPs individually and provided guidance on how the content may be removed. The websites also include depictions of celebrities, journalists, and other public figures, he says. WIRED is not naming the websites in order to not drive further attention to the abusive images.多名研究人员和议员表示，尽管政客多年来一直是深度伪造的目标，但这类内容会损害民主实践，并造成寒蝉效应，可能阻止女性和女孩成为公众人物。“这首先会让女性不愿参选公职，还会把这些女性排挤在公共生活之外，”舒尔茨说。“有大量证据表明，这会造成真实的心理伤害。如果她们日后想淡出政坛、另谋职业，这也会对她们未来的声誉造成损害。”
“深度伪造视频被用来恐吓政客，也被用来贬低女性，”受到影响的荷兰社会党议员莎拉·多贝说。
“如果一名妇女或女孩以这种方式受到伤害，她能在需要时获得直接支持，并且相关内容能被迅速删除，这一点非常重要。”在他监测的各网站上，舒尔茨将辱骂性内容或行为分成了多个类别。他的结果包括议员出现在网站正在托管的内容中、内容已被删除的索引结果，以及一些可能创建新内容的个人资料和“门户”。
舒尔茨的报告称，多个网站托管了包含议员姓名、官方照片的页面，部分还附有议员的社交媒体资料或个人信息。有些页面甚至设有对女性身材进行“评分”的板块。这些议员简介旁边往往还链接有所谓的“一键脱衣”应用或网站自带的工具，声称能通过数字技术褪去人物衣物。舒尔茨指出：“那里有所有的图像、所有的信息，还有直达工具的链接，只需点击三次就能生成。这与实际托管这些内容一样恶劣。”自2017年底AI生成的深度伪造内容首次出现以来，制作此类内容的基础技术已变得更为普及，工具生成的结果也愈发逼真。
随着时间推移，数百万张未经同意的AI图像和视频已被制作出来，大多出自男性和男孩之手，并常被用来骚扰、恐吓或勒索女性和女孩，其中包括在全球近100所学校里发生的此类行为。
“这些平台的设计方式就是像企业一样运作，”自2018年以来一直在追踪这一生态的人工智能顾问、深度伪造专家亨利·阿杰说。他表示，虽然政治人物以这种方式成为攻击目标并不令人意外，但这些发现有助于欧洲官员理解这个问题的严重性。“整个基础设施的设置就是为了轻松地大规模这样做，”他说。
总体而言，立法者在推出立法以应对深度伪造造成的日益增多的危害方面一直行动缓慢。然而，近几个月来，一些法律已开始出台。英国和欧盟都计划禁止“一键脱衣”服务，而根据美国《下架法案》，至少两家发布数千张名人图片和视频的大型深度伪造网站已被下线。记者揭露出这些网站背后运营者的报道，也促使一些大型网站被下线。在这篇报道发表之前，《连线》发现，研究中出现的至少六个域名最近已从网络上被移除，从而减少了欧洲议会议员相关影像的总数。
舒尔茨同时也在研究英国和美国政客被深度伪造的次数，他此前曾分析过2024年有多少美国参议员和众议员出现在深度伪造网站上。舒尔茨表示，这些网站被关闭后，美国政客的深度伪造图像数量出现了“显著下降”。克罗格表示：“确保这些图像被删除是当务之急，但同时也需要对这类技术进行严格监管。”