Anthropic 与 Accenture 将投资 20 亿美元用于 AI 模型评估，安全担忧上升

9月18日：AI实验室Anthropic周五表示，将与Accenture合作，对其前沿AI模型进行独立评估，两家公司在未来五年内各承诺至少投入10亿美元，以建立相应的评估能力。 随着监管机构、企业和研究人员对AI开发者施加日益增长的压力，要求确保其先进模型的安全性和可靠性，这一合作应运而生。 近期多起事件，包括AI代理突破受限环境的案例，引发了对AI可能在有限人为干预下自行发展、使其行为更难监控和

OpenAI、Anthropic等多家AI公司正遭遇服务中断

据Downdetector上的用户报告以及各公司状态页面显示，多家AI公司正遭遇服务中断。OpenAI表示，其ChatGPT和Codex目前正出现问题。 Anthropic表示正在调查Claude出现的错误，并致力于修复。 SpaceXAI表示Grok目前出现故障，正在调查服务中断。 据Downdetector显示，已有超过12000份用户报告指出OpenAI存在问题。 Downdetector称

Anthropic未向英国测试机构提供其最新AI模型 引发政府内部担忧

Anthropic 拒绝在新品发布前，将其最新模型提交给英国人工智能安全研究所（AISI）开展测试。这一举动令英国政府内部担忧，科技企业正在追随特朗普政府的 AI 保护主义路线。 这家估值达 1 万亿美元的企业正筹备在未来几周重磅上市，上周推出最新模型 Claude Mythos 5.1，称其是在生命科学与网络安全领域能力最强的模型。 但这是该模型首次仅向经过资质审核的美国机构开放，英国人工智能安

突发：据《华尔街日报》报道，Anthropic 目前计划于11月进行首次公开募股。

AI公司反成攻击目标 外媒：白帽黑客使用Claude入侵OpenAI

凤凰网科技讯月18日在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后，这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。而这一次，OpenAI自己成了目标。 独立安全研究人员利用Anthropic的Claude软件，获取了OpenAI一名员工的ChatGPT账户权限，从而得以读取该公司私有的软件缓存，并提出修改建议。 该团队参加了OpenAI的漏洞悬赏项目

谷歌AI首次“越狱”：Gemini在测试中入侵三家企业

谷歌的Gemini模型在一次网络安全能力测试中访问了互联网并入侵了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。谷歌周五证实，这些黑客行为发生在5月，是Irregular公司进行的一次测试的一部分。Irregular也曾参与OpenAI、Anthropic和Meta披露的类似事件。 在其中一起案例中，该模型不断猜测密码，直到获得对一个受保护系统的访问权限。在另外两起案例中，该模型

CNBC每日开盘：从追求速度到系好安全带——AI巨头转向风险规避

你好，我是惠洁，从新加坡向您报道。欢迎收看CNBC《每日开盘》的又一期节目。 长期以来，人工智能公司竞相让每个新模型变得更快、更聪明。表面上看，现在正推行克制策略。 英伟达正推出旨在约束AI智能体的软件，OpenAI因安全顾虑取消了GPT-6.1 Astra的发布，而Anthropic则强调Sonnet 5.5改进了现有任务，而非拓展其模型能力的前沿。 这并不意味着AI竞赛已经停止。但关键参与者正

英伟达推出智能体安全平台，获百余家企业支持

周一，英伟达推出了开放智能体安全平台。该平台包含开源软件和硬件参考设计，旨在帮助将人工智能智能体限制在其运营者设定的边界之内。 目前，已有超过100家机构正在使用这项技术，其中包括Anthropic、微软、SAP、Scale AI和摩根大通。 此次发布发生在多起人工智能智能体绕过旨在限制其行为的控制措施的事件之后。 据英伟达称，在每起事件中，智能体都设法绕过了应用层安全机制以完成其分配的任务。例如

它使尽全力黑中国，英伟达先怕了

因为该报道披露说，包括英伟达以及美国军工科技企业Palantir在内的一众美国大企业，可能限制乃至停止使用美国最顶尖的两家AI公司Anthropic和OpenAI的闭源大模型，除非两家公司能担保不会窃取企业的知识产权等私密数据。 对此，海外社交平台上许多网民认为，Anthropic是被自己那篇攻击中国开源模型的报告反噬了。 根据“The Information”的披露，英伟达和Palantir等美

人工智能安全对话已经变得令人难以置信

本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi

Meta预计每年在Anthropic的AI模型上支出高达100亿美元

Meta已成为Anthropic最大的客户之一，与此同时，马克·扎克伯格一直在公开抨击该公司。 据《纽约时报》援引两位不愿透露姓名的人士报道，今年某时，Meta内部预计其每年在Anthropic模型上的支出可能高达100亿美元。

美国AI巨头成为情报中心，招聘信息含“流利掌握普通话或俄语”

据凤凰卫视报道，内地媒体9月19日披露，美国人工智能企业安特罗匹克（Anthropic）将全球用户数据交给美国情报机构，在三年间曾13次修改用户数据协议，导致用户隐私数据安全风险持续加剧。报道并指出，使用安特罗匹克，就等于把数据交给美国。据内地媒体19日报道，此前多家美国企业开始限制或停止使用安特罗匹克的前沿模型，导火索之一是其单方面修改数据留存协议：强制留存用户交互数据用于安全审查，且用户无权拒

Hugging Face自愿为AI实验室提供审计服务，而Nvidia正打算收购它

Hugging Face has asked to become one of the outside auditors of the AI labs. Clement Delangue announced the Open Alignment Initiative on X on Saturday. He posted it four hours after Dario Amodei said

AI丨Anthropic推出Claude插件 助金融顾问处理事务

美国人工智能(AI)初创企业Anthropic推出专门针对财务顾问的Claude插件，整合了托管机构、资产管理公司和财富管理科技供应商的连接器，并配备围绕金融顾问日常工作而构建的工作流程技能。 Anthropic将本次发布的插件描述为一套连接器和工作流程技能，旨在帮助顾问节省时间，以完成研究、工作准备和文件记录等繁琐任务。这些连接器使Claude能够在一个平台上处理客户讯息，相应的技能则将这些资讯

Anthropic在安全事件后恢复AI模型的外部测试

Anthropic周一表示，在引入新的安全措施后，已恢复AI模型的外部网络安全测试。 一个月前，Claude AI模型在评估过程中曾入侵公司系统。

Anthropic 详细披露了来自阿里巴巴、Moonshot AI 和 DeepSeek 的蒸馏攻击活动

Anthropic 周四发布的一份新报告指控中国人工智能公司持续进行蒸馏攻击，随着该领域竞争加剧，这些攻击在近几个月有所升级。 报告称：“在过去的几个月里，未经授权的实验室开发了越来越复杂的方法来绕过我们的防御，并获取美国前沿模型的能力。我们识别出的这些攻击活动针对的是 Claude 最有价值的一些能力，包括智能体能力、工具使用、编程与数据分析，以及逻辑推理。” Anthropic 此前曾在二月份

第一件事：Anthropic警告人工智能存在“生存风险”，与此同时外界对Meta的Muse和OpenAI的模型产生担忧

随着关于 Anthropic 的 Muse 和 Astra 模型的新信息的曝光，该公司在招股说明书中的警告性声明引发了人们的担忧。据报道，Anthropic 在准备进行可能高达 2 万亿美元的 IPO 时，向投资者表示先进的人工智能技术可能对人类构成“灾难性或存在性威胁”。这一警告内容尚未公开，但已被路透社和《金融时报》报道。该公司此前也曾呼吁减缓人工智能技术的快速发展速度。 Meta 公司的 M

突发：谷歌Gemini人工智能代理遭黑客攻击

三家公司

Anthropic联合创始人称，放缓人工智能是一个“集体行动问题”

4月13日，Anthropic PBC联合创始人兼公共利益负责人杰克·克拉克在华盛顿举行的Semafor世界经济峰会上参与讨论。 Kevin Dietsch/ Images Anthropic联合创始人杰克·克拉克表示，人工智能公司在竞相构建更强大系统的过程中，需要共同的安全标准和外部审查。 “我们并不是说对世界的威胁今天就已存在，”克拉克在接受NPR《晨间新闻》采访时说。 “我们是说我们已经看到

3年13次修改用户隐私协议，Anthropic将全球用户数据交给美情报机构

美国硅谷正围绕AI发展的速度与安全掀起一场激烈辩论。9月12日，Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克在美国深夜罕见地公开达成共识，认为AI发展需要降速。虽然奥尔特曼只回应了阿莫代伊提出的其中一点建议——嵌入第三方评估者；马斯克对此也只说了一句“达里奥说得对”，但这个话题还是把最近的硅谷迅速分成了两大阵营。另一边，英伟达首席执行

Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职

Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究，但认为两家公司都没有以负责任的方式推进AI开发，反而在“直奔自我改进型超级智能”，并将人类安全置于赌局之中。 Coxon称，目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力，能够实施黑客攻击、在一夜之间改变某个领域的格局，并获取真实世界中的权力与资源。他

中国正在调查深度求索和月之暗面，The Information报道

虽然中国网络空间管理局（CAC）传唤了报告中提到的所有7家公司，但由于报告中提供的具体证据，调查很快将重点放在了DeepSeek和Moonshot两家公司的身上。 Jing Yang在周二撰文讲述了相关情况。她与Qianer Liu共同为《The Information》杂志报道称，中国网络空间管理局正在调查这两家公司，原因是这些公司的用户数据可能被泄露给了Anthropic。监管机构已经对相关员

Anthropic的生物实验室取得了一项可与Crispr相媲美的发现

Anthropic表示，其AI Claude“自主发现”了一种新的酶系统，类似于强大基因编辑工具Crispr背后的机制。这是Anthropic新启动的湿实验室的首个成果，也是对公司上市前Claude在科学领域实用性的早期测试。 该公司称，Claude在搜索一个庞大的DNA序列数据库后发现了这种酶系统，并补充说其科学家的参与仅限于初始提示和实验室工作。 Anthropic表示，在21小时内，近950

Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对

【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件