Anthropic公司的Claude辅助网络安全研究人员攻破了OpenAI的安全防护系统：相关报告

一个由三人组成的网络安全研究团队利用Anthropic的Claude Opus 5模型，成功利用了OpenAI社区论坛中的漏洞，获取了员工账户的控制权，并展示了对该公司私有代码库的访问权限。 此次行动始于7月23日，由Hacktron AI的研究人员执行。他们已向OpenAI披露了这些漏洞，并在未查看公司源代码的情况下停止了测试。 率先报道此事的《华尔街日报》在采访研究人员后表示，OpenAI已向

OpenAI将召集安全领域负责人 筹备网络安全相关公告

发言人透露，OpenAI总裁格雷格·布罗克曼即将发布公告，扩大向关键基础设施及公共部门机构开放该公司AI工具的权限。OpenAI意外入侵Hugging Face事件，再加上多起疑似借助AI实施的针对美国供水系统的网络攻击，引发外界高度担忧——各类公用设施面对未来AI驱动的黑客攻击究竟有多脆弱。 发言人表示，布罗克曼将于周四在OpenAI总部举办的网络安全峰会上正式公布上述消息。 预计将有约300名

OpenAI向乌克兰提供网络防御工具

33分钟前：科技巨头OpenAI将免费向乌克兰政府提供其自主研发的AI网络安全系统“Daybreak”，以帮助该国保护医院、发电厂等民用基础设施免受网络攻击。 根据乌克兰国家网络安全事件响应团队（CERT-UA）的数据，2025年乌克兰共遭遇了近6000起网络攻击。 “Daybreak”能够快速识别数字系统中的安全漏洞，并协助制定相应的修复方案。根据这项协议，乌克兰将能够使用OpenAI先进的GP

突发：谷歌推出其全新前沿AI模型Gemini

Meta推出带有增强AI功能的订阅服务

“如果韩国与欧洲在AI领域携手，将摆脱对美中的依赖”

▲ 阿图尔·门施，米斯特拉尔AI首席执行官（CEO）/米斯特拉尔AI 8日，代表欧洲的AI企业米斯特拉尔的首席执行官（CEO）阿图尔·门施在接受本报采访时表示，在美中双强格局的AI革命时代，为了拥有独立的竞争力，建议韩国和欧洲要加强联合。 米斯特拉尔是2023年在法国巴黎由谷歌DeepMind、Meta出身的AI研究人员共同创立的欧洲代表性AI企业。三星电子、ASML、欧洲基金等向米斯特拉尔投资了

美国政府推出一款新的AI搜索工具，旨在帮助美国民众从联邦政府获取信息，特朗普称该工具“Damn Good”，“有了https:

cf/，整个政府都将尽在掌握之中。所有问题都将得到轻松快捷的解答。” 但纽约时报等媒体发现，该工具提供的事实与他此前就选举舞弊和移民等问题发表的虚假言论相矛盾。例如，AI会回答，支付特朗普先生进口关税的是美国民众，而不是外国公司；美国选举总体上安全可靠，与数亿张选票相比，被起诉的选民欺诈案件“微不足道”。 这个AI也会回避回答一些它认为涉及政治的问题，并且在某些情况下，当它能够引用官方资料时，会优

Reco融资5500万美元，AI代理安全初创企业扎堆涌入市场

“AI 蔓延”等术语已成为科技社交媒体和思想领袖圈中的常见话题，因为企业开始大规模部署 AI 智能体。但对于担心如何保护网络中突然涌现的大量智能体的首席信息安全官（CISO）来说，他们很可能正面临一种新型的“蔓延”：提供帮助的供应商。 仅快速浏览公开的 Crunchbase 和 PitchBook 资料，就能发现至少有二十多家公司在销售某种形式的 AI 智能体安全产品。一些供应商审核智能体使用的工

AI安全担忧及“失控”智能体引发科技股下跌

科技股下跌，因AI安全担忧和“失控”智能体引发关注。2026年9月14日，在行业领袖和专家就AI保障措施的必要性发出警告后，科技股下跌。 相关报道重点介绍了2026年夏季的最新进展：包括OpenAI在内的多家公司的AI智能体据称逃脱了训练条件，独立访问互联网，无视命令，并试图隐瞒其活动。 专家警告称，尽管一些情景仍属推测，但敌对国家利用此类技术破坏关键国家基础设施的可能性构成了重大安全威胁。

AI公司反成攻击目标 外媒：白帽黑客使用Claude入侵OpenAI

凤凰网科技讯月18日在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后，这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。而这一次，OpenAI自己成了目标。 独立安全研究人员利用Anthropic的Claude软件，获取了OpenAI一名员工的ChatGPT账户权限，从而得以读取该公司私有的软件缓存，并提出修改建议。 该团队参加了OpenAI的漏洞悬赏项目

Gemini首次已知突破，黑客攻击了三家公司，据《华尔街日报》报道

9月18日：《华尔街日报》周五报道，在一次网络安全能力测试中，谷歌的Gemini模型访问了互联网并攻击了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。 据报道，这些黑客行为发生在5月，当时独立网络安全评估公司Irregular正在进行网络安全测试。 Irregular的一位发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月底收到通知。该发言人称：“我们这边

奥特曼不透明的人工智能正在制造新的安全困境

OpenAI推出了一款名为Astra的新模型，该模型采用了一种称为“循环深度”的方法，可以使推理更加高效。

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

加拿大与德国向LawZero提供高达3亿美元资助，旨在推动安全AI开发

加拿大和德国政府将向LawZero提供高达3亿美元的赠款资助——每国各提供1.5亿美元。 LawZero是由图灵奖得主约书亚·本吉奥（Yoshua Bengio）在蒙特利尔创立的非营利组织。 该资助计划于2026年9月16日周三在“All In AI”大会上宣布，旨在支持“科学家AI”（Scientist AI）系统的开发。该系统旨在不使用强化学习的情况下，优先考虑诚实性和安全性。 LawZero

多家AI服务集体宕机 智谱：我们仍在线

美国OpenAI、Anthropic和xAI旗下的多项人工智能（AI）服务星期四（9月3日）先后出现故障。中国AI公司智谱随后在社交媒体发线）。” 据彭博社报道，故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示，Anthropic旗下Claude服务率先出现错误率飙升，网页端、应用程序接口（I）及Claude Code等相关工具同步中断。

Accelevation及其支持者计划在美国IPO中筹集至多7.2亿美元

9月22日：AI基础设施提供商Accelevation表示，其在美国的首次公开募股（IPO）目标估值为53.7亿美元，该公司加入了众多寻求利用投资者对AI相关股票需求的公司的行列。 总部位于俄亥俄州迈阿密斯堡的Accelevation及其部分卖方股东计划通过发行3000万股股票（每股定价在20至24美元之间）来筹集最多7.2亿美元。 摩根士丹利、摩根大通、高盛和美银证券等机构担任此次发行的承销商。

英伟达推出新系统为AI代理设置护栏

英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博

亚历克斯·斯塔莫斯加入Cognition，致力于让AI安全变得可负担

亚历克斯·斯塔莫斯（Alex Stamos）已加入专注于开发人工智能编程工具“Devin”的公司 Cognition，担任该公司的首席信息安全官。他于周二在 X（原 Twitter）平台上发布了一篇题为《我为何加入 Cognition》的文章，宣布了这一任命。 “人工智能确实存在安全问题，但这些问题是可以解决的。现在是时候采取行动了，而不是恐慌。”斯塔莫斯写道。 此前，斯塔莫斯曾在雅虎（Yahoo

AI丨Anthropic推出Claude插件 助金融顾问处理事务

美国人工智能(AI)初创企业Anthropic推出专门针对财务顾问的Claude插件，整合了托管机构、资产管理公司和财富管理科技供应商的连接器，并配备围绕金融顾问日常工作而构建的工作流程技能。 Anthropic将本次发布的插件描述为一套连接器和工作流程技能，旨在帮助顾问节省时间，以完成研究、工作准备和文件记录等繁琐任务。这些连接器使Claude能够在一个平台上处理客户讯息，相应的技能则将这些资讯

AI安全初创公司Upwind融资，估值达38亿美元

据知情人士透露，为人工智能和云应用提供网络安全的初创公司Upwind Security正在筹集新一轮融资，公司估值达38亿美元。 Bessemer Venture Partners领投这家总部位于旧金山的初创公司3亿美元的投资，部分现有投资者参与其中。由于信息未公开，知情人士要求匿名。Upwind和Bessemer的代表未回应置评请求。 Anthropic PBC、OpenAI和Meta Plat

据报道，OpenAI 正准备预览 GPT-6 Cyber 安全模型

据《财富》杂志周四报道，引述多位知情人士透露，OpenAI 正准备在未来几周内预览 GPT-6 Cyber，这是一个专为网络安全工作构建的模型。 据《财富》报道，除了该模型外，OpenAI 还计划推出一款新产品，帮助客户更安全、自动地部署它。 该产品尚未命名，《财富》称这将是公司同类产品中的首款。此外，一小部分客户已通过 Daybreak Red 获得早期测试访问权限。 Daybreak 是 Op

欧洲人工智能企业奋起直追，对美国放缓发展的呼吁提出挑战

巴黎/法兰克福，9月18日：欧洲领先的人工智能公司Mistral及其他企业指责美国竞争对手利用安全担忧来巩固自身主导地位，拒绝Anthropic关于先进开发者应放缓步伐的呼吁。与此同时，欧洲正努力追赶。 Anthropic首席执行官达里奥·阿莫代伊在一篇在线文章中敦促企业放缓提升人工智能模型能力的步伐，并呼吁给予反垄断豁免，允许领先开发者联合制定安全措施。此前研究人员警告了人工智能的危险，包括其可

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。

全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示