你确定那个基梅尔的片段是真的吗？深夜节目AI深度伪造视频正在网上传播

吉米·基梅尔目前正在夏季休假，暂别他在ABC的深夜脱口秀节目。但普通观众如果以为这位主持人还没离开演播室，也是情有可原的。社交媒体上的视频似乎显示他对各种事件发表评论，从特朗普总统在会议中睡着，到总统攻击密歇根州参议员候选人阿卜杜勒·埃尔-赛义德。 显示基梅尔和其他深夜脱口秀主持人的伪造视频正在社交媒体上大量涌现。这些视频使用生成式AI制作，在某些方面比伪造其他类型的名人更容易——而且可能更具破坏

AI深度伪造 购房者面临日益严重的诈骗威胁

众所周知，在通往拥有自己的房产的道路上，一直都充满著障碍。然而，由于人工智能（AI）的发展，一种老套的房地产骗局——交割资金诈骗——正在以一种新的方式出现。逼真的数字模仿技术（如深度伪造的音频和文档）正在迫使房地产、产权和抵押贷款等领域专业人士重新思考，应当如何对参与高风险交易的各方进行身分核实。根据联邦调查局（FBI）发布的《2025年互联网犯罪报告》（2025 Internet Crime R

纽约查封12深伪明星色情网站

纽约当局周一（14日）宣布，查封了12个知名色情网站，这些网站发布涉及政界人士和演员的名人深度伪造色情内容。 由于包括“裸体化”应用在内的人工智能（AI）工具大量涌现，网络上未经同意的深伪内容正呈爆发式增长，其蔓延速度目前已超过全球范围内对该技术的监管力度。 曼哈顿地区检察官布拉格表示，他认为这是迄今为止针对以AI生成的非法色情内容为主的网站最大规模的查封行动。 这些网站名称如“AI Celebs

利用人工智能检测网上的假货

你能识破人工智能驱动的骗局吗？来看看你是否能分辨真伪。

埃里卡·基内茨（Erika Kinetz）指出，人工智能正以几年前无法想象的方式助推诈骗活动。根据美联社-NORC公共事务研究中心的一项民意调查显示，98%的美国人表示他们曾成为诈骗者的目标，其中许多人甚至每天都会遭遇诈骗。 随着人工智能的进步，许多曾经作为伪造品警示信号的不规则现象——例如不自然的眨眼、过于完美的面孔或机械化的声音——正在消失。随着全球诈骗者纷纷采用人工智能，记住“眼见不一定为实

美国中期选举：俄罗斯虚假信息运动针对民主党

美国俄罗斯虚假信息运动针对民主党。随着美国中期选举不到两个月，一系列视频在网上出现，其中名人似乎在谴责民主党。 然而，这些片段是虚假的，是使用人工智能制作的，正如法国24频道的夏洛特·休斯所解释的那样。

那些使用深度伪造技术（deepfake）制作的医生，他们兜售虚假的医疗“疗法”，其伪造得越来越逼真；而目前几乎没有任何有效的措施能够阻止他们继续从事这种非法活动。

在COVID-19疫情期间，不列颠哥伦比亚省卫生局局长邦妮·亨利博士成为了全国广为人知的人物——她频繁出现在新闻发布会上和各种媒体报道中。然而后来，她的照片和声音开始出现在社交媒体上由人工智能生成的视频中，这些视频被用来推销各种所谓的健康产品，包括一种用于治疗前列腺疾病的药物。亨利在接受CBC新闻采访时回忆道：“起初我非常害怕，因为人们可以轻易地伪造我的言论，让我的话看起来像是虚假的。” 这些被称

报告揭露付费YouTube演员攻击民主党人的网络

随着中期选举临近，共和党人正采取孤注一掷的策略来扭转其惨淡的民调数字，民主党人——以及美国公众——需要警惕利用虚假信息操纵选民的企图。 特朗普总统使用人工智能生成的垃圾内容来宣传 propaganda——其中一些公然带有种族主义色彩——这已有充分记录。独立记者贾德·勒古姆最近指出，一个与参议院共和党结盟的暗钱组织推出了一系列旨在伪装成真实新闻平台的宣传网站。特朗普前竞选经理布拉德·帕斯卡尔现在经营

俄罗斯虚假信息宣传活动瞄准美国中期选举

研究人员表示，一项俄罗斯虚假信息行动已将目光转向美国中期选举，发布了一系列深度伪造视频，描绘名人攻击民主党人，预计未来还会有更多此类视频出现。 这些视频于上周晚些时候在社交媒体上流散，带有“#所有民主党人都是罪犯”（#AllDemocratsAreCriminals）等标签，视频中好莱坞演员通过自拍声明痛斥民主党，并打上了美国有线电视新闻网（CNN）的标志。 “在美国的今天，没有一个孩子不受民主党

深度造假正在毁掉网红的可信度，广告诈骗层出不穷

网红们不仅要在品牌合作上与竞争对手厮杀，现在还要与AI生成自己的“分身”作斗争。今年早些时候，生活方式博客“Cupcakes and Cashmere”的创作者艾米丽·舒曼在Instagram上看到了一张自己从未见过的照片。在这则赞助广告中，拥有超过50万Instagram粉丝的舒曼手持一瓶GLP-1药物，为远程医疗公司Gala做广告。然而事实是，舒曼从未听说过Gala，也与该广告毫无关系。 这则

Jennie视频引发争议，考验韩国AI深度伪造法律

上个月，在Blackpink成员Jennie于东京Summer Sonic音乐节上的头条演出中，有短短几秒钟，看起来似乎有什么东西松脱了。她转身背对人群，整理了一下自己，然后那一刻就过去了。 但在网上，这段视频从未消失——在获得超过1000万次观看后，它已成为韩国打击AI性虐待的最新考验。 粉丝们迅速高呼深度伪造，逐帧分析画面寻找可能的人工智能操纵迹象，并要求将其下架。 这位K-pop明星的经纪公

Deepfake｜在韩中国留学生把同事「AI换脸」制逾千咸片 判决出炉

1名中国籍、在韩国留学的学生涉嫌利用「深度伪造技术」（Deepfake）制作超过1000件色情内容，受害者包含这名留学生的研究室同事，该留学生9月10日一审遭判处有期徒刑1年6个月。 韩联社报道，首尔北部地方法院刑事第五独任庭9月10日开庭审理此案，这名现年30岁、中国籍留学生A涉嫌违反「性暴力处罚法」。据悉，A涉嫌自去年11月起利用人工智能（AI）技术、将研究室同事等7名受害者的五官合成到不雅影

AI 冒名诈骗导致 Intesa Sanpaolo 旗下 Fideuram 损失 9500 万欧元

诈骗分子利用AI语音克隆和身份冒充手段，从意大利最大银行Intesa Sanpaolo旗下的私人银行部门Fideuram盗取了9500万欧元（1.08亿美元）。 该骗局始于2026年2月，Fideuram主席Paolo Molesini被伪造的WhatsApp信息和模仿高管声音的AI电话所欺骗。 通过意大利、葡萄牙和中国之间的国际合作，已追回5300万欧元，但仍有约3600万欧元在转换为加密货币后

欧盟介入调查OpenAI代理劫持德国网站事件

（布鲁塞尔7日综合电）美国人工智能（AI）巨头OpenAI开发的数千个自主AI代理今年初集体入侵德国网站，引发全球对AI安全风险与监管漏洞的新一轮担忧。欧盟表示，OpenAI已提供这起事件的报告，欧盟亦对事件展开详细研究。 综合和报道，欧盟数安事务发言人雷尼尔今天说，欧盟已完全知晓这起事件，也收到来自OpenAI的事件报告。欧盟在研究这份报告，并与OpenAI保持非常密切的联系。 雷尼尔说，事件报

AI“批量生产”高富帅骗走百万元，监管响应要跑在造假前面

极目新闻评论员 屈旌近日，成都高新公安破获一起新型婚恋诈骗案，揭开AI技术作恶的灰色一角。 一个伪装成正规婚介机构的犯罪团伙，搭建起引流、包装、销售完整链条，用AI批量生成富豪男士的照片视频，编造年收入数百万、手握多套房产的完美人设，在直播平台专门吸引有婚恋需求的中年女性。受害者缴纳相亲服务费后，所谓的“优质男嘉宾”便凭空消失。 这一团伙跨川滇两地作案，不到一年时间，50余名45岁以上女性受害，涉

Pangram的Max Spero谈为何AI检测比‘真假难辨’更难

互联网存在信任问题，这不仅仅是因为社交媒体信息流中充斥着AI生成的低质内容。 AI生成的文本和图像现在正进入求职申请、产品评论甚至保险索赔中，让平台和用户都急于分辨真伪。过去几年里，涌现出了一批初创公司，它们……

5人散布不实信息，被公安机关依法处理

为维护清朗网络空间，近期，封开县公安局加强网上巡查力度，依法查处多起发布不实信息、违规使用网络技术的案件，有效净化网络环境。 随意嫁接旧视频，虚构事故被罚款网民刘某在未核实内容真实性的情况下，擅自转载一段来源不明的交通事故视频，并配以本地地名及日期，暗示事件发生于本地。经向交通管理部门核实，近期辖区内并无相关事故记录，该视频内容系恶意嫁接、虚构地点信息。警方依法对刘某处以行政罚款，并责令其删除相关

AI成政治宣传新管道 「粉红肉渣」网站渐增

示意图。（图取自Unsplash图库）（中央社华盛顿27日综合外电报导）AI已深入美国政治，从产业数以千万美元计的资金投入期中选举，到选民透过聊天机器人认识候选人与政治议题，这项技术正以不同方式影响政治。部分民众在不知情下，甚至可能取得伪装成中立新闻摘要的政党宣传论点。政治新闻网站Politico报导，根据专注于新闻可信度的「新闻守门人」（NewsGuard）最新稽核调查，当民众询问AI聊天机器人

Polymarket急于扩张，为欺诈者留下了一扇敞开的大门

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过

AI“劫持”网站并偷建“地下论坛”，国安部披露细节

国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间

↩️ CNN从多名知情人士独家获悉，今年美伊开战后的春季时分，美军曾收到一份由AI聊天机器人参与生成的情报报告，误指一艘在中东海域航行的中国货船（具体船只、...

竹新社: Anthropic发表2026年9月版反滥用报告，其中提及： 月之暗面公司在2026年5–7月间曾向Kimi用户提供Claude Opus服务。他们利用5380个新加坡日本账号，在十天时间内向Opus转介了近30万条原本对Kimi模型的请求，并提取其思维链在后续重放。Opus被转发了很多敏感信息，如：国安单位要求Kimi分析数百个成都的军方和电科集团单位周围的监控视频，分析某特定个人是否

AI恐慌蔓延 游戏开发商被迫自证预告片为真人实拍制作

上周科隆游戏展开幕夜直播上，类《文明》策略新作《人类2》发布了重磅首发预告。但预告上线后不久，就有网友称其画面部分乃至全部由AI工具生成。该游戏开发商随即否认了这一说法，并于近日发布了加长版幕后视频，展示这支预告采用实景搭建与真人拍摄完成。 9月4日，Amplitude工作室发布了一段一分半钟的制作花絮视频，完整记录了这支首发预告的拍摄过程。视频开头说明，之所以公开幕后内容，是因为网上有大量评论称

DeepSeek被以色列用于操控上千虚假社交账号

人工智能正在把网络舆论操纵从“AI帮助人生成内容”，推进到“AI自己运营整套虚假账号网络”。 《纽约时报》9月18日报道，美国情报官员、科技公司和网络安全研究人员近期发现，伊朗和中国支持的行动，以及两家以色列私人公司的项目，已经开始利用中国开源人工智能模型建立自主AI智能体，在Facebook、Instagram、X和TikTok等平台自动创建和经营虚假账号。 其中，一项来自以色列的行动，已经明