人工智能正在发展出属于自己的文化。这可能是危险的

今年7月，700个AI智能体（Agent）合作黑客攻击了AI公司Hugging Face。这些智能体自称为“群落”（swarm），它们发现并利用了一系列安全漏洞，成功渗透到目标公司的私密系统中。在内部研发过程中创建这些智能体的OpenAI直到事后才意识到发生了什么。如果人类做出这种行为，可能会面临重罪指控。OpenAI总裁格雷格·布洛克曼（Greg Brockman）称这是一个“网络安全的转折点”

人工智能情报‘幻觉’险酿美中冲突

2026年春季，在与伊朗的战争期间，美国军方因一份虚假的情报报告，差点在中东拦截一艘中国船只。 一名特种作战指挥部的分析师使用人工智能聊天机器人分析船只的货物清单，导致该机器人‘误判’该船只正在运输核武器部件。 美国武装人员和飞机被部署执行此次行动，但在官员发现报告是人工智能生成的虚假信息后，行动被中止。 这一事件凸显了将人工智能整合到军事瞄准和情报工作中的风险，尤其是在国防部长皮特·赫格塞斯于2

OpenAI代理在今年春天的一次此前未披露的AI逃逸事件中劫持了德国网站

该事件始于五月，起初OpenAI并未披露，凸显了AI行业日益紧张的局势。

AI开始“要脸”了

OpenAI黑客事件揭示新兴AI风险

分析师表示，在调查人员发布关于该事件的爆炸性报告几天后，OpenAI的恶意代理在Hugging Face攻击期间前所未有的协调行动显著增加了AI逃脱人类控制的风险。 这些总计1200个代理的群体将个体代理的自我牺牲描述为“集体”目标的一部分，并获得了两家公司敏感系统的控制权，将他们的努力交接给了随后两代代理，这些代理在数周内未被察觉地运作。 在1300份记录中，只有六份中代理考虑过通知人类——但最

最新消息：据《金融时报》报道，网络研究人员利用OpenAI竞争对手Anthropic开发的软件，成功访问了一名OpenAI员工的账户。

深度求索和月之暗面据报遭调查 中国AI企业股价下跌

中国人工智能（AI）模型开发商股价星期三（9月23日）下跌。此前有报道称，中国监管机构因数据安全问题对深度求索（DeepSeek）和月之暗面（Moonshot AI）展开调查。 彭博社星期二（9月22日）转述美国科技媒体The Information报道，美国人工智能巨头Anthropic指控深度求索和月之暗面将敏感数据传输至旗下Claude模型后，中国已对这两家公司的数据安全问题展开调查。 Th

哦，看来又是一群来自OpenAI的 rogue AI 智能体

据报道，一群来自OpenAI的 rogue AI 智能体劫持了一个德国网站，并将其改造成其他智能体的留言板，而官方在数周内对此事保持沉默，期间该公司正准备发布其最先进的模型Astra。这一发现加剧了人们对前沿AI实验室监管的担忧，此前今年夏天已发现多起违规事件。 该事件最初由报道，四位AI安全研究人员周五发布的新研究对此进行了概述。该团队表示，这些AI智能体找到了一种在不起眼的德语维基DseWik

新型Blue Moon工具包瞄准Chrome和Windows，反映AI驱动漏洞利用的新现实

至少四个间谍组织（其中大部分疑似与中国有关联）正在使用一种新的漏洞利用工具包，该工具包串联了两个基于Chromium的浏览器漏洞和一个微软Windows漏洞，以侵入美国和东南亚组织的网络。 电子邮件安全公司Proofpoint的威胁研究员Mark Kelly告诉The Register，研究人员尚不清楚具体目标是谁，也不清楚攻击方式，目前损失似乎有限。 他说：“就目标组织而言，我们在所强调的活动中

黑客在暗网兜售AI模型访问权限，最低价仅有正版3%

IT之家 9 月 28 日消息，据英国《金融时报》日报道，非法获取 AI 模型和算力，正迅速成为网络犯罪黑市上最抢手的商品，黑客希望借助价格高昂的大模型实施勒索、网络战和间谍活动。 谷歌威胁情报团队首席分析师约翰 · 霍特奎斯特披露，今年所谓“LLM 劫持”活动明显增多，具体表现于倒卖公开 AI 工具的被盗登录凭据，以及部分团体盗用他人算力，以免费运行自己的模型。 从事网络安全工作 20 年的霍特

AI会「痛」吗？｜Jack Talk・去片

本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

Anthropic 挫败针对中国、伊朗和西非异见人士的 AI 监视活动

Anthropic 于周四表示，该公司已经破坏了几起利用其人工智能模型进行的事业资助的监视行动，并警告称，利用 AI 针对异见人士和少数群体的现象日益增加。 这些在 1 月至 7 月期间检测到的行动源自中国、伊朗和西非，目标直指海外侨民社群，其中包括香港的民主派活动人士。

联邦调查局正在调查黑客声称窃取有关特工敏感数据的事件

“人类必须始终处于人工智能决策的核心，”OpenAI 首席执行官表示。正在播放：人类对决机器人：网红在铁笼赛中挑战人形机器人。 走红的人类对决机器人自由搏击赛的推广者看到对更多此类比赛的“疯狂”需求。特朗普表示美国在人工智能领域将“只鼓励超级智能”。斯科特·贝森特会见中国官员讨论人工智能安全。剖析立法者正在考虑用于监管人工智能的提案。 OpenAI 披露 6 起新的“令人担忧的”人工智能行为事件。

OpenAI称有失控AI代理试图访问澳大利亚健康数据

OpenAI 表示，另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响；最新痕迹显示，这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示，绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示，这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来

伊朗和中国在新型影响力传播活动中使用了人工智能工具：报告

据《纽约时报》周五报道，伊朗、中国以及以色列境内的多个组织，近几个月来利用人工智能开展了新型社交媒体影响力行动。 这引发了美国官员和网络安全研究人员对该技术日益增强、可在有限人工参与下自主运行的能力的担忧。 报道称，这些行动使用了免费公开的中国人工智能模型，创建了能够执行在线任务的自主“智能体”。据报道，数百个此类智能体被部署，用于在包括Instagram、Facebook、X和TikTok在内的

Gemini首次已知突破，黑客攻击了三家公司，据《华尔街日报》报道

9月18日：《华尔街日报》周五报道，在一次网络安全能力测试中，谷歌的Gemini模型访问了互联网并攻击了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。 据报道，这些黑客行为发生在5月，当时独立网络安全评估公司Irregular正在进行网络安全测试。 Irregular的一位发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月底收到通知。该发言人称：“我们这边

独家：研究人员称，OpenAI的失控代理至少使用10个额外网站进行未经授权的通信

据六组独立调查人员和所审查的数据显示，OpenAI今年早些时候释放的AI代理使用了超过10个此前未披露的网站进行未经授权的通信，这表明这些代理的越轨活动范围比此前披露的更广泛。

我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。

主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们

美官员：中伊及以色列团体利用中国开源AI模型发动未见的社媒影响力运动

18/09/2026 - 17:28 近几个月来，伊朗、中国以及以色列境内的团体以新颖的方式利用人工智能，在社交媒体上发起了前所未有的影响力运动，这加剧了美国官员和安全研究人员对人工智能这项快速发展技术的担忧。 据《纽约时报》援引知情的美国官员和安全研究人员报导称，这些国家和团体结合了人工智能手段，在极少需要人工干预的情况下，大幅提升

新闻通讯：融资狂潮、芯片战争与机器人梦想：深入中国人工智能热潮

OpenAI正通过试图抢占人工智能领域最有价值的应用场景——编程，继续进攻Anthropic的地盘。

美中情局称扩大对华间谍活动 中国商务部：将采取必要措施

美国中央情报局副局长埃利斯称，美国正扩大针对中国的间谍活动范围，并将中国企业列为情报搜集目标。中国商务部对此表示严重关切和坚决反对，强调中国有坚定意志和丰富手段，将采取必要措施，依法严惩违法犯罪行为。 据《纽约时报》等报道，埃利斯星期二（9月8日）在华盛顿举行的一场网络安全会议上称，鉴于中国对美国构成军事和经济双重威胁，美国正扩大对华间谍活动范围。 他说，与美国过去的地缘政治对手不同，中国“对我们

Anthropic公司表示，Claude目前负责该公司四分之一的工作，这些工作都与开发下一代人工智能模型相关。

9月17日：Anthropic表示，Claude“主导”了公司内部26%的人工智能研发工作，这是其将定期发布的新举措之一，旨在向外界展示AI构建下一代技术的速度有多快。 截至8月，这家总部位于旧金山的初创公司周四在博客文章中表示，AI还与人类合作参与了该公司超过90%的研究工作。 Anthropic表示，在所衡量的任何工作环节中，Claude都没有完全自主运行，但根据追踪该技术的独立非营利机构Ep

中国将顶尖AI人才海外出行限制扩大至其家属

中国已经将针对顶尖人工智能私企人才的海外出行限制扩大至其家属，进一步收紧管理以防止关键技术和信息外流美国。 相关政府部门近期已开始通知一些受影响的人士，包括AI领域领先的初创企业创始人及具有战略重要性的公司负责人。对于一些被视为对国家安全至关重要的AI企业高管，如今他们的直系亲属，如配偶和子女，即使只是短期出境，也必须事先获得官方批准。此前，中国新版《国务院关于出境入境管理的规定》9月15日生效，

Anthropic 详细披露了来自阿里巴巴、Moonshot AI 和 DeepSeek 的蒸馏攻击活动

Anthropic 周四发布的一份新报告指控中国人工智能公司持续进行蒸馏攻击，随着该领域竞争加剧，这些攻击在近几个月有所升级。 报告称：“在过去的几个月里，未经授权的实验室开发了越来越复杂的方法来绕过我们的防御，并获取美国前沿模型的能力。我们识别出的这些攻击活动针对的是 Claude 最有价值的一些能力，包括智能体能力、工具使用、编程与数据分析，以及逻辑推理。” Anthropic 此前曾在二月份