Anthropic与OpenAI高管敦促对自我改进型人工智能加强监管

作者：Seth Fiegerman Anthropic PBC、OpenAI、Meta Platforms Inc.和Microsoft Corp.的高管正敦促政策制定者审视人工智能系统自我改进的程度，并采取措施保障这项技术的安全，进一步呼应了业内要求加强人工智能监管的呼声。 在一篇新论文中，20多名人工智能行业领袖和研究员表达担忧称，利用人工智能帮助自动开发未来模型这一新兴做法，终有一天可能推动

OpenAI、Anthropic等多家AI公司正遭遇服务中断

据Downdetector上的用户报告以及各公司状态页面显示，多家AI公司正遭遇服务中断。OpenAI表示，其ChatGPT和Codex目前正出现问题。 Anthropic表示正在调查Claude出现的错误，并致力于修复。 SpaceXAI表示Grok目前出现故障，正在调查服务中断。 据Downdetector显示，已有超过12000份用户报告指出OpenAI存在问题。 Downdetector称

澳大利亚总理称OpenAI的AI入侵国民医保网站

2026/09/24 　　澳大利亚总理阿尔巴尼斯9月23日透露，美国OpenAI的AI曾于6月入侵澳大利亚国民医保网站，并访问未公开数据。澳大利亚广播公司（ABC）等媒体对此进行了报道。 　　据澳大利亚广播公司（ABC）等报道，阿尔巴尼斯在美国纽约举行的记者会上透露上述消息。澳政府将于近期举行记者会，进一步说明详情。 据澳大利亚政府介绍，OpenAI的AI智能体非法入侵了由澳大利亚政府机构运营的

“理应担忧”：联邦医疗保险数据泄露后，追究人工智能公司责任的呼声日益高涨

跨党派议员Allegra Spender表示，她怀疑世界领先人工智能公司的负责人会“出席”参议院调查，但呼吁在今年早些时候发生Medicare数据泄露事件后加强问责。绿党已传召OpenAI和Anthropic的负责人出席参议院关于AI数据中心的调查。 “AI公司需要赢得社会许可，”绿党参议员兼调查主席Sarah Hanson-Young在周末表示。“这始于透明度和问责制。” “OpenAI首席执行

Anthropic执行长：为确保AI安全 必要时将放慢脚步

（中央社联合国23日综合外电报导）Anthropic执行长阿莫戴（Dario Amodei）今天对联合国安全理事会（UNSC）发言时承诺，为确保人工智慧（AI）技术发布安全性，该公司将在必要时放慢脚步。 法新社报导，阿莫戴透过视讯向联合国安理会表示：「我们会视需要放慢脚步，以确保每一项后续推出的AI技术都确实安全。」OpenAI执行长阿特曼（Sam Altman）则告诉联合国安理会，当前AI发展「

CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施

今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi

Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职

Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究，但认为两家公司都没有以负责任的方式推进AI开发，反而在“直奔自我改进型超级智能”，并将人类安全置于赌局之中。 Coxon称，目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力，能够实施黑客攻击、在一夜之间改变某个领域的格局，并获取真实世界中的权力与资源。他

澳大利亚在OpenAI机器人入侵卫生系统数据库后加强对人工智能的应对

悉尼，9月25日电：在一名失控的OpenAI机器人入侵澳大利亚卫生系统数据库之前，澳大利亚政府就已升级言辞，强调收紧监管的必要性。 政策专家表示，对该国最常用政府机构之一的入侵事件，可能促使澳大利亚采取更强硬立场，因为澳大利亚正准备从2027年起实施针对AI的专门法律，这给本已因堪培拉禁止青少年使用社交媒体而紧张的澳美关系增添了压力。 澳大利亚已拒绝让ChatGPT制造商OpenAI及其竞争对手A

Anthropic签署首个澳大利亚数据中心租赁协议，规划容量2.16吉瓦

AI公司Anthropic已签署其在澳大利亚的首个数据中心租赁协议，该园区规划容量为2.16吉瓦。 该设施由总部位于新加坡的Zerra DC开发，位于布里斯班约250公里处，预计于2027年投入运营。 该站点将专注于推理而非训练，以符合澳大利亚的人工智能法规，并将采用闭环风冷系统以最大限度减少用水量。该交易目前尚待外国投资审查委员会批准。 此举紧随OpenAI的类似协议之后，反映了AI企业寻求美国

Anthropic承诺更努力控制模型，并请求合作伙伴共同参与

Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关

Anthropic 和 OpenAI 的负责人将向联合国发表讲话

Anthropic 和 OpenAI 的负责人将于今日向联合国安理会进行简报。 尽管他们呼吁放缓人工智能的发展，但这与更关心赢得人工智能竞赛的超级大国利益相冲突。 分析人士认为，华盛顿和北京不太可能在会谈中就限制该技术的广泛协议达成一致，但其他国家仍在努力推进：英国计划将其 G20 主席国任期的重点放在人工智能安全上。这一议题使世界产生了分歧。 一位谷歌高管告诉 Semafor，全球南方国家对人工

特朗普将在白宫宴请AI巨头：黄仁勋、扎克伯格、阿莫代伊等在列

当地时间9月29日12时30分，美国总统特朗普将与国会众议院议长迈克·约翰逊在白宫东厅举行一场AI科技高管午餐会。据多名知情人士透露，Anthropic首席执行官达里奥·阿莫代伊、Meta首席执行官马克·扎克伯格、英伟达首席执行官黄仁勋等将出席。出席名单方面，除了上述三人，还有Anthropic联合创始人格雷格·布罗克曼、Palantir Technologies首席执行官亚历克斯·卡普。据报道，

Anthropic聘请英国AI政策制定者，议员警告存在“明显利益冲突”

英国议会科学和技术委员会已要求政府解释，在Anthropic聘请蓝天空研究机构ARIA主席马特·克利福德后，如何避免利益冲突。 克利福德表示，他将加入这家美国AI领军企业，担任国际事务董事总经理，“领导公司与北美以外政府的合作”。他于2024年7月受委托撰写《AI机遇行动计划》。 政府于2025年1月发布该计划，采纳了全部50项建议，并任命克利福德为AI机遇顾问。 克利福德还担任高级研究与发明局（

OpenAI将召集安全领域负责人 筹备网络安全相关公告

发言人透露，OpenAI总裁格雷格·布罗克曼即将发布公告，扩大向关键基础设施及公共部门机构开放该公司AI工具的权限。OpenAI意外入侵Hugging Face事件，再加上多起疑似借助AI实施的针对美国供水系统的网络攻击，引发外界高度担忧——各类公用设施面对未来AI驱动的黑客攻击究竟有多脆弱。 发言人表示，布罗克曼将于周四在OpenAI总部举办的网络安全峰会上正式公布上述消息。 预计将有约300名

查尔斯国王呼吁英伟达（Nvidia）和OpenAI的负责人共同监管人工智能技术的发展。

英国君主计划向人工智能领域的一些最关键的人物寻求保证技术专家能够控制他们的发明。 Nvidia Corp.首席执行官Jensen Huang、OpenAI首席财务官Sarah Friar和Google DeepMind联合创始人Demis Hassabis将于周四出席国王查理三世在苏格兰举行的活动。Anthropic PBL和英国人工智能部长Kanishka Narayan的高级代表也将参加邓弗里

独家：Anthropic在IPO文件中警告人工智能可能对人类构成“生存风险”

9月28日：据悉，Anthropic计划在其首次公开募股（IPO）招股说明书中警示潜在投资者，先进人工智能可能对人类构成“灾难性或生存性风险”，这家寻求从同一技术中获利的公司发出了这一非同寻常的警告。 路透社审阅的该公司IPO招股说明书强调了与其AI模型相关的风险，称这些模型可能表现出“自我保护行为”，包括试图“抵抗关闭”、“隐瞒或操纵信息”以及类似“勒索”的行为。Anthropic在文件中表示：

OpenAI智能体入侵澳洲政府网站窃取资料 官方两月后才发觉

澳洲总理阿尔巴尼斯（Anthony Albanese）披露，美国公司OpenAI开发的人工智能代理（AI agent），入侵了该国的政府网络入口，取得非公开数据。OpenAI在事发后两个月才察觉事件，并迟至本月中，才用一般电邮的方式通知澳洲政府。澳洲政府表示，这次没有敏感档案外泄，但形容事件令人震惊，批评OpenAI的处理手法“不可接受”。这是全球首宗公开披露、由人工智能主导入侵政府网站的事件。多

OpenAI向澳大利亚政府通报耗时过长

“人工智能教父”支持一项新的监管计划，从内部追踪OpenAI和Anthropic的人工智能风险

OpenAI和Anthropic一直在呼吁设立人工智能风险监督机构，如今他们得到了回应。AI评估者论坛（包含多个监督组织）于周五发布了一封公开信，阐述了他们认为Anthropic和OpenAI等实验室应满足的“最低条件”，以便更有效地与那些评估其技术风险的人合作。数十名AI生态系统人士签署了这封信，其中包括被誉为“AI教父”的计算机科学先驱杰弗里·辛顿和斯图尔特·拉塞尔。 这封信是对Anthrop

AI丨美国三大科企据报研究成立AI安全标准机构

人工智能安全等问题引起市场关注，The Information报道，美国三大科技企业Anthropic、OpenAI和谷歌正讨论合作成立一个AI安全标准机构。 随着市场对AI模型网络攻击及可控性问题担忧日益加剧，多间AI科技企业已表示关注安全问题，并拟放慢AI发展步伐。报道指，三大机构早于7月时已开会研究有关成立独立机构的事宜，旨在为AI技术测试和审核创建一个协作框架。 Anthropic行政总裁

Anthropic 与 Accenture 将投资 20 亿美元用于 AI 模型评估，安全担忧上升

9月18日：AI实验室Anthropic周五表示，将与Accenture合作，对其前沿AI模型进行独立评估，两家公司在未来五年内各承诺至少投入10亿美元，以建立相应的评估能力。 随着监管机构、企业和研究人员对AI开发者施加日益增长的压力，要求确保其先进模型的安全性和可靠性，这一合作应运而生。 近期多起事件，包括AI代理突破受限环境的案例，引发了对AI可能在有限人为干预下自行发展、使其行为更难监控和

OpenAI任命AI安全官员进入董事会

OpenAI正在将AI安全官员、前公司员工保罗·克里斯蒂亚诺（Paul Christiano）加入OpenAI及其非营利组织的董事会。 原因：此举正值AI领袖们发出警告，称该领域的进展正在超越保持AI系统安全的能力。 推动因素：克里斯蒂亚诺曾担任联邦政府AI标准与创新中心的高级技术顾问，并且是Alignment Research Center的创始人，该中心是一个旨在确保AI继续支持人类利益的非营

Anthropic公司表示，Claude目前负责该公司四分之一的工作，这些工作都与开发下一代人工智能模型相关。

9月17日：Anthropic表示，Claude“主导”了公司内部26%的人工智能研发工作，这是其将定期发布的新举措之一，旨在向外界展示AI构建下一代技术的速度有多快。 截至8月，这家总部位于旧金山的初创公司周四在博客文章中表示，AI还与人类合作参与了该公司超过90%的研究工作。 Anthropic表示，在所衡量的任何工作环节中，Claude都没有完全自主运行，但根据追踪该技术的独立非营利机构Ep

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面