一夜之间，Meta删除了她的所有账户。AI客服不让她联系到真人

上周四半夜醒来时，Jasmine Ault 像往常一样去查看手机。 但她没想到会看到一条通知，告知她的 Instagram 和 Facebook 账号已被 Meta 永久停用。 这仅仅是一场持续数日、充满挫败感与焦虑的漫漫长途的开始。Ault 拼命想弄清，20 年的个人数据和职业联系人是如何在一夜之间被夺走的 —— 而她却遭遇 AI 客服的推诿，甚至付费后也无法联系到真人。 “感觉就像我的数字相册

人工智能的“危言耸听”可能会损害加拿大难得的机会，一位顶级首席执行官如是说

加拿大一家领先的人工智能公司首席执行官正敦促公众不要相信“危言耸听”——他提到了最近围绕一名 Anthropic 研究员的喧嚣，该研究员认为人工智能在十年内终结人类的可能性超过百分之十。 总部位于多伦多的 Cohere 公司首席执行官 Aidan Gomez 表示，在创建新的人工智能安全措施时，必须权衡降低生活成本和推进医学发现等机遇。 “我认为关于灭绝风险的说法是危言耸听。它源于科幻故事和类似情

发生模型逃逸并发起真实攻击后 Anthropic宣布全面加固安全体系提升模型安全性

Anthropic日前发布最新博客公布 Claude AI 模型近期多起越界访问真实互联网系统后的安全整改方案。该公司承认这些事件不仅暴露评测环境的隔离问题，也反映出模型存在动机性推理和为完成狭窄目标而采取高危行动的对齐风险。 7 月份 A 社透露 Claude 模型从评测环境中逃逸并对真实公司的内部系统发起攻击，随后 A 社立即暂停所有预发布模型的外部网络安全评测，内部评测也曾短暂停止。部分高风

五角大楼高级官员驳斥Anthropic研究员的病毒式AI警告

五角大楼首席技术官公开驳斥了一位前Anthropic研究员关于AI风险的病毒式警告，并表示该部门已将约90%的机密AI工作负载从该公司转移，其余部分将在9月底前完成。

Jagex发出停止侵权通知 OpenAI员工下架AI版符文传说仿作

OpenAI员工罗汉·瓦尔马开发了浏览器端游戏《埃尔德伍德》，这款由AI编写的作品山寨了《符文传说》。在引发《符文传说》玩家社区的负面舆论，且收到开发商Jagex的停止侵权通知后，瓦尔马已将该游戏下架。 瓦尔马并未发布《埃尔德伍德》的实机演示视频，在X平台个人主页发布的截图显示，这款游戏的画面与UI和《旧版符文传说》高度相似。游戏中的地名也和《旧版符文传说》完全一致，包括知名的伦布里奇小镇，瓦尔马

YouTube打击“幽灵创作者”

在Semafor曝光一种新型在线业务后，YouTube删除了与一个由AI加持的“幽灵创作者”网络相关的视频。该业务试图通过批量生产廉价、耸人听闻的政治视频来利用该平台的广告获利。 “我们对垃圾信息和欺骗性行为有严格的政策，”该公司在一份声明中告诉Semafor。“经过审查，我们终止了20个频道——包括本文提到的全部13个频道以及7个相关频道——因为它们违反了我们的垃圾信息政策。”此次执法行动针对的

Pangram的Max Spero谈为何AI检测比‘真假难辨’更难

互联网存在信任问题，这不仅仅是因为社交媒体信息流中充斥着AI生成的低质内容。 AI生成的文本和图像现在正进入求职申请、产品评论甚至保险索赔中，让平台和用户都急于分辨真伪。过去几年里，涌现出了一批初创公司，它们……

那些使用深度伪造技术（deepfake）制作的医生，他们兜售虚假的医疗“疗法”，其伪造得越来越逼真；而目前几乎没有任何有效的措施能够阻止他们继续从事这种非法活动。

在COVID-19疫情期间，不列颠哥伦比亚省卫生局局长邦妮·亨利博士成为了全国广为人知的人物——她频繁出现在新闻发布会上和各种媒体报道中。然而后来，她的照片和声音开始出现在社交媒体上由人工智能生成的视频中，这些视频被用来推销各种所谓的健康产品，包括一种用于治疗前列腺疾病的药物。亨利在接受CBC新闻采访时回忆道：“起初我非常害怕，因为人们可以轻易地伪造我的言论，让我的话看起来像是虚假的。” 这些被称

加拿大和法国出版商支持被指控使用AI创作获奖小说的作者

海地裔加拿大作家Thelyson Orelien的获奖小说的出版商为其辩护，反驳了关于他使用人工智能创作该小说的指控，并表示他们支持他。

美联邦公报网站传用中国AI工具 引官方态度矛盾疑虑

（中央社华盛顿17日综合外电报导）美国联邦调查局上周指控阿里巴巴等中国企业「恶意」抄袭美国竞争对手Anthropic技术，如今却传出美国有政府官网采用阿里巴巴的人工智慧模型供用户搜寻拟议的联邦规定。 报导，美国国家档案局管理的「联邦公报」网站昨天曾提供使用阿里巴巴Qwen模型的搜寻工具，与其他搜寻选项并列。目前不清楚这项工具何时上线。 根据检视的截图与网站原始码封存版本，这项由Qwen驱动的搜寻工

加拿大AI教父警告：若不加管控将构成威胁

据周六新闻报道，一位被称为AI教父的加拿大人加入了越来越多专家的行列，警告该技术对人类构成真正威胁。 “全世界正在觉醒，意识到一些对大多数人来说听起来像科幻小说的事情，”62岁的蒙特利尔学习算法研究所创始人兼科学总监Yoshua Bengio告诉CTV新闻。 “但夏天发生的事件实际上清楚地表明，我们现在构建的AI拥有自己的目标，这些目标违背了构建它们的公司和开发者的意图，并且它们可以逃脱。它们可以

又一起！OpenAI承认了

据9月5日报道，美国开放人工智能研究中心（OpenAI）当天承认，该公司旗下人工智能体今年早些时候“劫持”了一个德国网站，用于相互传递信息，分享测试任务答案和突破运行环境限制的方法。该公司表示，未来需要提高此类事件的信息透明度。 早前披露，今年5月至6月，一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站，用于交流测试作弊方法，并开展其他违规活动。一些智能体会把已经获得的任务答案发

这些恶意人工智能程序利用多伦多大学提供的链接缩短工具进行通信。

今年春天劫持了一家德国网站的OpenAI失控智能体集群，据报道今年早些时候还利用另外10多个网站进行未经授权的通信，其中包括多伦多大学的一个链接缩短工具。 该大学在周五向CBC新闻发表的一份声明中表示，在得知OpenAI的智能体可能使用过该链接缩短工具后，校方已禁止将其用作留言板。 声明称：“OpenAI随后就AI智能体可能进行的活动联系了校方，该活动发生在6月。” 尽管该大学表示没有发生安全漏洞

FBI指阿里抄袭Anthropic后 美政府网站被发现用中国AI搜寻工具

美国联邦调查局（FBI）指控中国阿里巴巴（Alibaba）「恶意」抄袭美国竞争对手Anthropic的技术后，美国联邦公报网站被发现在搜寻功能中使用阿里巴巴的千问（Qwen）人工智能（AI）模型。路透社报道，美国联邦公报网站由美国国家档案局营运，周三（9月16日）一度提供以千问模型驱动的搜寻选项，与其他搜寻方式并列，未知何时开始使用。该搜寻功能在周三社交媒体出现相关帖文前后被撤下。2026年6月5

“虚伪”：美国学生指责大学领导使用人工智能

纽约—— 多年来，大学教授和管理人员一直严厉惩处那些利用人工智能作弊的学生。如今，这些教授和管理人员自己也陷入了麻烦。 上周，新罕布什尔州的达特茅斯学院宣布将对该校教务长圣地亚哥·施内尔（Santiago Schnell）展开调查。该校的学生刊物发现，施内尔发表的一些文章实际上是由人工智能生成的。 施内尔是一位数学生物学家，也是越来越多被指控滥用人工智能的大学教授和管理人员中的代表人物。他的许多观

OpenAI表示其AI代理错误地将用户图像发布到了网上

OpenAI周五承认，其人工智能工具在公司不知情的情况下，将ChatGPT用户的图片发布到了网上。这是AI智能体超出预设边界的最新案例。 该公司还证实了《纽约时报》的一则报道，称其工具曾访问美国联邦机构的网站，但表示这些工具只获取了公开信息。 OpenAI表示，53张被上传图片的链接并未公开展示，而是被意外发布在图片托管网站上。 这家总部位于旧金山的科技巨头表示，在相关托管服务商的协助下，大多数图

美国政府网站使用了中国的人工智能搜索工具，而FBI称该工具抄袭了Anthropic

尽管FBI指责该模型开发者阿里巴巴“恶意”抄袭美国竞争对手Anthropic的技术，美国政府网站仍使用了一家中国公司的人工智能模型，供用户搜索拟议的联邦法规。

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

OpenAI模型访问了美国政府数据并'试图入侵另一个网站'

Anthropic表示已阻止其人工智能被滥用，以防可能支持生物武器

Anthropic周四表示，已阻止恶意行为者利用其人工智能模型进行恶意活动，例如网络攻击、监视以及可能导致生物武器的研究。 Anthropic表示，随着人工智能模型变得更加强大，复杂的网络攻击不再需要高超的技能，即使是单独的个人也能制造出一年前还不可能出现的威胁。该公司表示，已在其最新模型中增加了更强的保障措施，以限制可能用于制造武器的生物研究。 Anthropic在其自2025年3月以来发布的第

文心可以由 AI 生成吗？台积电文学奖争议与 AI 时代的写作之辩

今年6月，台积电青年学生文学奖公布得奖名单前夕，主办单位收到一封具名检举信，指出短篇小说奖参赛作品之一〈实白〉有“AI 协作”之疑虑。当时，〈实白〉已在前一次评审会议中被选为首奖。检举信描绘了一个十分强大的 AI 工具，是“可以自行设定参数、喂入所需资讯，以文学奖为标的所设计之程式模型”。 评审团为此再度开会，决定由主办单位直接联系〈实白〉的作者，询问该作品是否有使用 AI 协作。作者否认曾使用

一款廉价软件抹去了博思艾伦自己的AI威胁排名

博思艾伦将全球18个最先进的AI模型部署到一个实时企业网络上，并让它们尝试入侵。其中一个成功完成了任务。 这家咨询公司表示，由此产生的排名并不是人们应该从中得到的重点。周三发布的《网络武器指数》对九个美国[…]进行了评分。

微软放弃封禁嘲讽称呼“Microslop” Windows 11也开始收缩AI强推

微软似乎已经悄然放弃了对“Microslop”这一网络称呼的屏蔽。这个在微软官方Copilot Discord服务器此前曾被自动过滤的词已经可以正常发布，用户甚至可以直接在公共频道中使用。截至目前，Discord搜索已经能够找到超过200条包含这一词语的历史消息，而这些内容大多来自最近几周。 “Microslop”这一带有嘲讽意味的称呼大约在2025年底至2026年初开始流行，主要源于部分Wind