AI竞选深度伪造视频开始引发法律威胁

德里克·范·奥登（威斯康星州共和党人）本周，他因发布的一封人工智能深度造假而受到一封停止信的打击，该造假错误地描绘了他的民主党对手表达了她的竞选团队表示她拒绝的立场。 为什么重要：越来越多的候选人和民选官员因竞选广告中的人工智能深度造假而面临法律投诉和威胁，范奥登是其中最新的一位。 推动新闻：范奥登的民主党对手丽贝卡·库克（Rebecca Cooke）的律师周三向他发送了一封停止信，指控他“发

AI深度伪造 购房者面临日益严重的诈骗威胁

众所周知，在通往拥有自己的房产的道路上，一直都充满著障碍。然而，由于人工智能（AI）的发展，一种老套的房地产骗局——交割资金诈骗——正在以一种新的方式出现。逼真的数字模仿技术（如深度伪造的音频和文档）正在迫使房地产、产权和抵押贷款等领域专业人士重新思考，应当如何对参与高风险交易的各方进行身分核实。根据联邦调查局（FBI）发布的《2025年互联网犯罪报告》（2025 Internet Crime R

纽约查封12深伪明星色情网站

纽约当局周一（14日）宣布，查封了12个知名色情网站，这些网站发布涉及政界人士和演员的名人深度伪造色情内容。 由于包括“裸体化”应用在内的人工智能（AI）工具大量涌现，网络上未经同意的深伪内容正呈爆发式增长，其蔓延速度目前已超过全球范围内对该技术的监管力度。 曼哈顿地区检察官布拉格表示，他认为这是迄今为止针对以AI生成的非法色情内容为主的网站最大规模的查封行动。 这些网站名称如“AI Celebs

随着AI图像变得普遍，对选举的威胁引发了警觉：“选民将如何辨别真相？”

一张佐治亚州College Park市市长Bianca Motley Broom在酒吧亲吻一名男子（并非她丈夫）的照片在Facebook上广泛传播。现在，人们正在更快地传播它是假的这一事实，但仅在被数千人看到之后才开始。 “我认为这是一种对我们民主现状以及政治话语状态的悲伤评论，”Motley Broom说。“它还试图强化关于女性领导者的陈旧刻板印象。”六年前，当Motley Broom首次在亚特

人工智能政治广告在美国中期选举前扭曲现实

AI生成的政治广告在美国中期选举中越来越普遍，通过展示虚假场景攻击对手并筹集资金，尽管监管较为松散。 专家警告称，这些深度伪造广告侵蚀了公众的信任，导致选民怀疑真实内容，并可能从选举过程中退出。 虽然AI广告可能会降低制作成本并像现代政治漫画一样发挥作用，但它们对实际投票的影响尚不清楚，甚至可能损害广告创建者的声誉。 AI生成的华盛顿讯 —— 一则政治广告描绘了一位参议院候选人在圣经上用蜡笔乱涂并

律师事务所争相抢夺AI竞赛中的技术人才

随着竞选季的临近，人工智能生成的广告随处可见。

数据显示，今年许多候选人正在利用人工智能来提升自身形象，并以不利的方式描绘其对手。但这是否会真正影响选民，目前尚不明确。 人工智能生成的竞选广告/艾米莉·博格尔（Emily Bogle）为美国全国公共广播电台（NPR）制作的拼贴画。杰西卡·比奇勒（Jessica Bichler）今年秋天将竞选北卡罗来纳州参议员。她竞选的威明顿及周边选区是深紫色（指共和党优势区），她深知这将是一场艰难的战斗。 但即

法院再次驳回xAI解禁申请 美国首个AI“裸体化”应用禁令继续生效

美国人工智能公司xAI在针对明尼苏达州人工智能监管法案的法律挑战中再次遭遇挫折。联邦法院日前裁定，拒绝暂时叫停该州针对AI“裸体化”应用的禁令，这意味着美国首项专门针对此类技术的州级法律将继续保持效力，而双方围绕其合法性的诉讼仍将继续推进。 这项法律于今年8月1日正式生效，禁止网站运营商、软件开发者以及其他相关服务提供方允许用户利用人工智能技术，将真实可识别人物的照片修改成裸体或带有明显性暗示内容

报告揭露付费YouTube演员攻击民主党人的网络

随着中期选举临近，共和党人正采取孤注一掷的策略来扭转其惨淡的民调数字，民主党人——以及美国公众——需要警惕利用虚假信息操纵选民的企图。 特朗普总统使用人工智能生成的垃圾内容来宣传 propaganda——其中一些公然带有种族主义色彩——这已有充分记录。独立记者贾德·勒古姆最近指出，一个与参议院共和党结盟的暗钱组织推出了一系列旨在伪装成真实新闻平台的宣传网站。特朗普前竞选经理布拉德·帕斯卡尔现在经营

Jennie视频引发争议，考验韩国AI深度伪造法律

上个月，在Blackpink成员Jennie于东京Summer Sonic音乐节上的头条演出中，有短短几秒钟，看起来似乎有什么东西松脱了。她转身背对人群，整理了一下自己，然后那一刻就过去了。 但在网上，这段视频从未消失——在获得超过1000万次观看后，它已成为韩国打击AI性虐待的最新考验。 粉丝们迅速高呼深度伪造，逐帧分析画面寻找可能的人工智能操纵迹象，并要求将其下架。 这位K-pop明星的经纪公

日本动漫演员就AI声音克隆问题起诉TikTok

日本动画演员就AI声音克隆问题起诉TikTok。配音演员津田健次郎已将TikTok告上法庭，称该平台上的视频使用了人工智能克隆的他那“醇厚”的男中音，判决将于周三宣判。 据法新社-共同社报道，AI模仿已成为全球表演者日益关注的问题，这一威胁动摇了日本历史悠久的动画产业，其配音演员有时受到的崇拜程度不亚于他们配音的角色。 津田健次郎提起的诉讼被认为是日本首例旨在保护个人声音身份免受AI生成复制品侵害

AI“批量生产”高富帅骗走百万元，监管响应要跑在造假前面

极目新闻评论员 屈旌近日，成都高新公安破获一起新型婚恋诈骗案，揭开AI技术作恶的灰色一角。 一个伪装成正规婚介机构的犯罪团伙，搭建起引流、包装、销售完整链条，用AI批量生成富豪男士的照片视频，编造年收入数百万、手握多套房产的完美人设，在直播平台专门吸引有婚恋需求的中年女性。受害者缴纳相亲服务费后，所谓的“优质男嘉宾”便凭空消失。 这一团伙跨川滇两地作案，不到一年时间，50余名45岁以上女性受害，涉

Deepfake｜在韩中国留学生把同事「AI换脸」制逾千咸片 判决出炉

1名中国籍、在韩国留学的学生涉嫌利用「深度伪造技术」（Deepfake）制作超过1000件色情内容，受害者包含这名留学生的研究室同事，该留学生9月10日一审遭判处有期徒刑1年6个月。 韩联社报道，首尔北部地方法院刑事第五独任庭9月10日开庭审理此案，这名现年30岁、中国籍留学生A涉嫌违反「性暴力处罚法」。据悉，A涉嫌自去年11月起利用人工智能（AI）技术、将研究室同事等7名受害者的五官合成到不雅影

巴西选举法院在涉及参议员博尔索纳罗的案件后为AI深度伪造设定新标准

圣保罗——巴西最高选举法院为政治广告中将被视为人工智能生成的深度伪造内容设定了新标准，此举旨在10月选举前遏制错误信息和操纵。 法院周二晚在涉及反对派候选人参议员弗拉维奥·博尔索纳罗的案件中作出裁决，他在其政党大会上使用该机制展示其被监禁的父亲、前总统雅伊尔·博尔索纳罗的AI生成图像，为其对抗总统路易斯·伊纳西奥·卢拉·达席尔瓦的竞选背书。 雅伊尔·博尔索纳罗于11月因领导未遂政变被判处27年监禁

美国中期选举：俄罗斯虚假信息运动针对民主党

美国俄罗斯虚假信息运动针对民主党。随着美国中期选举不到两个月，一系列视频在网上出现，其中名人似乎在谴责民主党。 然而，这些片段是虚假的，是使用人工智能制作的，正如法国24频道的夏洛特·休斯所解释的那样。

AI成政治宣传新管道 「粉红肉渣」网站渐增

示意图。（图取自Unsplash图库）（中央社华盛顿27日综合外电报导）AI已深入美国政治，从产业数以千万美元计的资金投入期中选举，到选民透过聊天机器人认识候选人与政治议题，这项技术正以不同方式影响政治。部分民众在不知情下，甚至可能取得伪装成中立新闻摘要的政党宣传论点。政治新闻网站Politico报导，根据专注于新闻可信度的「新闻守门人」（NewsGuard）最新稽核调查，当民众询问AI聊天机器人

AI开始“要脸”了

AI生成“鳄鱼出没”照片引发大规模搜捕行动 新加坡男子面临最高十年监禁

一张由人工智能生成的鳄鱼照片，近日在新加坡引发了一场真实的搜捕行动。由于这张照片被误认为是真实拍摄，当地管理部门一度暂停热门水域活动并调动资源展开搜捕，而制作并传播该照片的男子如今正面临最高十年监禁的法律后果。 根据案件信息，30岁的叶林于今年8月利用Google Gemini生成了一张咸水鳄鱼出现在班丹蓄水池的图片，并将其发送给一名同事。据悉，该行为最初可能只是出于玩笑目的，但照片随后被进一步传

前xAI员工创业开公司打击深度伪造，寻求5000万美元种子轮融资

IT之家 9 月 22 日消息，据彭博社今天（22 日）凌晨援引知情人士消息称，先后在谷歌、xAI 任职的蒂娜 · 奥贝罗伊计划创办一家专门应对网络深度伪造的新公司并就约 5,000 万美元（IT之家注：现汇率约合 3.36 亿元人民币）种子轮融资与投资者展开洽谈。 奥贝罗伊曾在谷歌工作超过 5 年、后来加入 xAI 数据团队，当前正筹建一家名为 Moir 的初创企业，希望开发新的身份验证技术，帮

尽管法院制裁已实施三年，AI错误百出的法庭文件仍激增

那些使用深度伪造技术（deepfake）制作的医生，他们兜售虚假的医疗“疗法”，其伪造得越来越逼真；而目前几乎没有任何有效的措施能够阻止他们继续从事这种非法活动。

在COVID-19疫情期间，不列颠哥伦比亚省卫生局局长邦妮·亨利博士成为了全国广为人知的人物——她频繁出现在新闻发布会上和各种媒体报道中。然而后来，她的照片和声音开始出现在社交媒体上由人工智能生成的视频中，这些视频被用来推销各种所谓的健康产品，包括一种用于治疗前列腺疾病的药物。亨利在接受CBC新闻采访时回忆道：“起初我非常害怕，因为人们可以轻易地伪造我的言论，让我的话看起来像是虚假的。” 这些被称

虚假且具有分裂性的广告在以色列首次人工智能选举中泛滥

在最近一段广泛传播的视频中，以色列的最高法官和总检察长被保安从一场从未发生的反政府抗议活动中拖走。 这段长达33秒、充满情绪色彩的影像最初由财政部长贝扎莱尔·斯莫特里奇发布，他是司法系统的强烈反对者，这一视频立即引发了强烈反响。 批评者称其煽动了暴力，而支持者则认为这是合理的，因为他们指责以色列法律体系的领导人密谋阻碍政府政策。 但实际上，所描绘的场景是虚假的——根本没有这样的抗议活动发生，而且该

范奥登因AI深度伪造广告收到民主党对手的停止侵权函

威斯康星州共和党众议员德里克·范·奥登（Derrick Van Orden）因在自己的竞选活动中使用了人工智能生成的虚假广告来攻击民主党对手丽贝卡·库克（Rebecca Cooke），因此收到了库克方面的停止侵权函。 这封函件中写道：“这些广告不仅有损您的公职尊严，而且根据威斯康星州的诽谤法，这些虚假广告也填补了该州法律在打击人工智能生成虚假视频方面的空白。”库克将这封函件分享到了社交媒体上。 库

Meta下令删除Deepfakes，因为监督委员会批评“不充分”的保障措施

Meta的“最高法院”已命令这家科技公司从Facebook上删除一名英国政客和一名年轻穆斯林女性的深度伪造视频，并采取更多措施来解决人工智能生成的虚假图像。一段假视频显示苏格兰工党议员对难民发表煽动性言论，董事会不应该留下。法院还裁定，一名穆斯林竞选志愿者的人工智能生成视频应该被删除，因为视频错误地描绘了她在进行荒谬的练习或吃垃圾食品时提供健康建议。 该委员会表示，Meta的保障措施“一贯且从根本