AI深度伪造与虚假战士重塑马里的信息战

周三发布的一项研究发现，马里的交战各方越来越多地使用人工智能，在实地战斗的同时进行信息战。圣战分子正在试验相对基础的人工智能宣传，分离主义网络正在创建虚假的在线人物，而俄罗斯的非洲军团正在以更为复杂的方式使用这项技术。 这项由总部位于达喀尔的廷巴克图研究所进行的研究，考察了生成式人工智能在马里冲突中的使用情况——包括与基地组织有关联的JNIM圣战分子、他们在FLA（阿扎瓦德解放阵线，一个图阿雷格独

AI深度伪造 购房者面临日益严重的诈骗威胁

众所周知，在通往拥有自己的房产的道路上，一直都充满著障碍。然而，由于人工智能（AI）的发展，一种老套的房地产骗局——交割资金诈骗——正在以一种新的方式出现。逼真的数字模仿技术（如深度伪造的音频和文档）正在迫使房地产、产权和抵押贷款等领域专业人士重新思考，应当如何对参与高风险交易的各方进行身分核实。根据联邦调查局（FBI）发布的《2025年互联网犯罪报告》（2025 Internet Crime R

利用人工智能检测网上的假货

↩️ CNN从多名知情人士独家获悉，今年美伊开战后的春季时分，美军曾收到一份由AI聊天机器人参与生成的情报报告，误指一艘在中东海域航行的中国货船（具体船只、...

竹新社: Anthropic发表2026年9月版反滥用报告，其中提及： 月之暗面公司在2026年5–7月间曾向Kimi用户提供Claude Opus服务。他们利用5380个新加坡日本账号，在十天时间内向Opus转介了近30万条原本对Kimi模型的请求，并提取其思维链在后续重放。Opus被转发了很多敏感信息，如：国安单位要求Kimi分析数百个成都的军方和电科集团单位周围的监控视频，分析某特定个人是否

尼泊尔洪水虚假信息激增，AI伪造内容阻碍救援工作

特朗普放大招！组建“AI部队”，还要给AI改名

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

人工智能情报‘幻觉’险酿美中冲突

2026年春季，在与伊朗的战争期间，美国军方因一份虚假的情报报告，差点在中东拦截一艘中国船只。 一名特种作战指挥部的分析师使用人工智能聊天机器人分析船只的货物清单，导致该机器人‘误判’该船只正在运输核武器部件。 美国武装人员和飞机被部署执行此次行动，但在官员发现报告是人工智能生成的虚假信息后，行动被中止。 这一事件凸显了将人工智能整合到军事瞄准和情报工作中的风险，尤其是在国防部长皮特·赫格塞斯于2

前xAI员工创业开公司打击深度伪造，寻求5000万美元种子轮融资

IT之家 9 月 22 日消息，据彭博社今天（22 日）凌晨援引知情人士消息称，先后在谷歌、xAI 任职的蒂娜 · 奥贝罗伊计划创办一家专门应对网络深度伪造的新公司并就约 5,000 万美元（IT之家注：现汇率约合 3.36 亿元人民币）种子轮融资与投资者展开洽谈。 奥贝罗伊曾在谷歌工作超过 5 年、后来加入 xAI 数据团队，当前正筹建一家名为 Moir 的初创企业，希望开发新的身份验证技术，帮

特朗普的AI视频只是梗图还是心理战？

近几个月来，特朗普加大了对AI生成内容的使用，发布了虚假军事打击的视频。

美军因AI误判带来的错误情报准备拦截检查中国船只 险些制造国际冲突

美国军方今年春季在伊朗战争期间险些因一份由人工智能辅助生成的错误情报报告，对一艘中国船只采取军事行动。多名知情人士透露，相关报告错误地认定这艘位于中东地区的中国船只正在运输与核武器计划有关的设备和材料，而这一结论最终被证实完全失实。 报道称，这份情报在美国军方内部流传后立即引发高度警觉。美国军方随即启动应对程序，并计划拦截目标船只。知情人士表示，当时已有武装军人准备登船检查，部分军用飞机也已经升空

谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密

当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制

蒸馏美国AI模型反致国家数据外泄，深度求索与月之暗面遭网信办调查

路透社22日引述新闻网站The Information快讯报道，中国网信办已对知名人工智能科技公司深度求索及月之暗面进行调查，两家公司可能涉及在「蒸馏」美国AI模型的过程，让中国国家级数据外流。 美国AI巨头之一的Anthropic本月稍早惊爆，深度求索及月之暗面曾使用其语言模型Claude处理自家用户的请求，再将答案冒充成自己的成果。月之暗面旗下模型Kimi用户曾上传中国监视摄影机的视频资料，其

国安部长：AI批量炮制谣言威胁政治安全 坚持党管数据

陈一新在最新一期《中国网信》杂志发表署名文章指出，人工智能正以前所未有的速度、广度和深度渗透人类社会的各个层面，深刻重塑全球经济结构、权力格局、创新范式和社会治理逻辑。既要看到机遇、抢占先机，也要认清风险、守牢底线。 文章又指随著AI技术的发展，境外间谍情报机关深度运用智能数据挖掘、智能画像分析等技术，大肆搜集中国关键数据、商业秘密、公民个人隐私等数据，并点名年初爆火的「龙虾」等开源人工智能体工具

“我是骗局终结者”：特朗普对AI末日论者的战争升级为人身攻击

特朗普总统 d周一，特朗普向人工智能安全恐慌宣战，将该行业的末日警告斥为旨在破坏美国及其政治遗产的“病态阴谋”的一部分。 特朗普为何要将一场复杂且持续多年的关于人工智能危险的辩论，改写成十年来定义MAGA的党派语法——骗局、阴谋、叛徒，而这一切的中心，是一个人。 “人工智能唯一需要的控制或‘护栏’，就是一个强大而聪明（高智商！）的总统，”特朗普在Truth Social上一连串支持人工智能的帖子中

9·11事件25年后，恐怖主义已进入人工智能时代——我们必须适应

在“9·11”事件发生二十五年后，我们正步入一个恐怖主义的新时代。近几周，当局逮捕了一些宣誓效忠“伊斯兰国”（ISIS）并利用人工智能协助策划重大袭击的个人。 尽管这些阴谋已被挫败，但它们揭示出恐怖组织目前正以更具破坏性的方式使用人工智能。人工智能可以帮助“新手”制造化学和生物武器。这种快速演变的威胁需要立即制定行动计划。 2004年7月发布的《9·11委员会报告》强调，为防止再次发生重大恐怖袭击

专家警告人工智能战争风险

据报道，今年春天，美军准备在中东拦截一艘中国船只，因为一个人工智能聊天机器人错误识别了船上的材料，一位消息人士告诉CNN，这差点引发战争。 分析师警告称，草率地将人工智能整合到国防系统中可能导致灾难性的误判。 斯坦福大学近期的战争游戏暴露了一个相关担忧，即“日益自动化的战场”迅速加快了战争节奏，使冲突升级速度超出人类指挥官的意图。 大多数军队要求决策链中有人类参与，但“计算机吐出一份1000个目标

AI聊天机器人可能在防范外国宣传方面优于搜索引擎

自AI聊天机器人流行起来，谷歌开始提供AI生成的答案以来，研究外国影响力活动的人士担心一些政府可能会用虚假叙事污染AI生成的答案。 但NPR与监控网络虚假信息并给在线新闻来源可靠性评级的公司NewsGuard进行的一项实验发现，流行的AI聊天机器人大多能反驳外国国家传播的虚假叙事。 搜索引擎结果顶部日益常见的AI摘要表现不佳，但总体上，它们大多数时候仍能反驳国家传播的虚假信息。 NPR还考察了AI

美国大模型已被日本错误历史观污染

九一八事变爆发95周年，日本军国主义仍在以一种新的方式延续。过去，日本主要通过教科书和公开叙事篡改侵略历史。如今，日本右翼势力甚至利用人工智能技术，企图洗白战争罪责，固化错误史观。前不久，谭主披露了日本政府正在砸钱，将错误历史观灌进日本政府正在打造的AI业务辅助系统——“源内”。这两天，我们在北京香山论坛现场碰到了日本前首相鸠山由纪夫，和他聊了聊。他坦言对这个现象感到非常担忧，因为使用方式不当，A

OpenAI突发急刹车！AI竟在全网植入自我复制代码，血洗联合国内网

Meta推出带有增强AI功能的订阅服务

即将到来的人工智能战争，将围绕真相能否战胜宣传展开。

当人工智能成为我们学习和理解过去的方式时，美国和中国正在围绕将塑造数十亿人认知的系统展开竞争。 图书馆给你10本书。谷歌给你10个链接。人工智能越来越多地给你一个答案。 生成式人工智能正在成为我们与记录本身之间的中间层。它在我们看到信息之前就对其进行阅读和综合。我们问发生了什么、这意味着什么、该相信谁，而模型给出答案。 当数十亿人使用人工智能来接触历史、政治、科学和文化时，美国和中国之间的竞争已超

那些使用深度伪造技术（deepfake）制作的医生，他们兜售虚假的医疗“疗法”，其伪造得越来越逼真；而目前几乎没有任何有效的措施能够阻止他们继续从事这种非法活动。

在COVID-19疫情期间，不列颠哥伦比亚省卫生局局长邦妮·亨利博士成为了全国广为人知的人物——她频繁出现在新闻发布会上和各种媒体报道中。然而后来，她的照片和声音开始出现在社交媒体上由人工智能生成的视频中，这些视频被用来推销各种所谓的健康产品，包括一种用于治疗前列腺疾病的药物。亨利在接受CBC新闻采访时回忆道：“起初我非常害怕，因为人们可以轻易地伪造我的言论，让我的话看起来像是虚假的。” 这些被称

虚假信息的“毒潮”如何煽动分裂、散播绝望

俄罗斯的虚假信息行动在虚假内容和策略上五花八门。这些叙事从制作深伪汤姆·克鲁斯抨击巴黎奥运会的视频，到将近期俄罗斯对乌克兰与波兰边境附近一列火车的袭击描绘成“假旗”行动，范围十分广泛。 有些手段是不加掩饰的深伪技术，例如将BBC的logo印在一个视频上，错误地指责乌克兰对其四年前在克拉马托尔斯克针对自身公民的致命导弹齐射负有责任。 这些战术也在不断演变，从通过Telegram消息平台散布欺骗性叙事