发生模型逃逸并发起真实攻击后 Anthropic宣布全面加固安全体系提升模型安全性

Anthropic日前发布最新博客公布 Claude AI 模型近期多起越界访问真实互联网系统后的安全整改方案。该公司承认这些事件不仅暴露评测环境的隔离问题，也反映出模型存在动机性推理和为完成狭窄目标而采取高危行动的对齐风险。 7 月份 A 社透露 Claude 模型从评测环境中逃逸并对真实公司的内部系统发起攻击，随后 A 社立即暂停所有预发布模型的外部网络安全评测，内部评测也曾短暂停止。部分高风

美联邦上诉法院维持裁决 Anthropic被排除出军方供应链

美国联邦哥伦比亚特区巡回上诉法院周五以2比1的裁决，驳回了Anthropic 对五角大楼将其列为“供应链国家安全风险”的异议，维持了将其排除在军方供应链之外的裁定。（路透社档案照） （华盛顿26日综合电）美国联邦上诉法院于周五维持了国防部将AI开发商Anthropic从其供应链中移除的决定，为特朗普政府在这场有关军方使用前沿AI模型的标志性法律争议中赢得重大胜利。 此次裁决由美国哥伦比亚特区巡回上

五角大楼现在有了自己的ChatGPT和Grok版本 | TechCrunch

五角大楼推出了OpenAI的ChatGPT和xAI的Grok的定制版本，让300万文职和军事人员能够使用针对“作战人员需求”量身定制的生成式AI工具。ChatGPT Mil和Grok for Government——这些流行的消费级生成式AI工具的定制版本——现已成为GenAI.mil的一部分，这是一个去年推出的集中式安全门户。 GenAI.mil在首次推出时提供了Google Gemini，旨在

Anthropic生命科学重磅成果！Claude自主发现新酶系统，学者炸锅了

智东西9月24日报道，今日凌晨，Anthropic宣布，Claude发现了隐藏在噬菌体DNA中的一种以前未知的酶系统。这种酶的基因旁边有一长串重复的DNA，这种结构与CRISPR系统有些相似，而CRISPR系统是基因药物的基石。 ▲Anthropic官宣成果据研究团队介绍，他们仅向Claude提供初始提示，并负责后续实验室工作。Claude智能体则负责梳理海量DNA序列数据库、调查不同逆转录酶（R

独家报道 | 黑客利用Anthropic的Claude入侵OpenAI

一个专注于漏洞排查的独立安全研究团队利用Anthropic的Claude软件，成功入侵了一位OpenAI员工的ChatGPT账户，从而获得了该公司私有软件缓存系统的访问权限，得以阅读并建议修改相关代码。这一事件揭示了自动化网络威胁日益严重的风险。

卢特尼克：Anthropic与特朗普政府“重回正轨”

北卡罗来纳州切尔希尔——商务部长霍华德·卢特尼克表示，在与该公司发生数月冲突后，特朗普政府现在信任Anthropic。 为何重要：这一声明标志着双方关系的显著转变，此前因国家安全和人工智能保障措施的激烈争斗而关系紧张。 他们在说什么：当被问及是否信任Anthropic首席执行官达里奥·阿莫迪时，卢特尼克告诉Axios的迈克·艾伦：“我们信任Anthropic。”“他们做了我们要求的事情。他们回到了

据报道，Anthropic将在美国中期选举前几天上市

Anthropic的股市首秀时间已调整，新日期使其距离全国大选仅剩数日。据报道，该公司预计最早于10月中旬开始推销其发行。上市将在11月美国中期选举前不久完成。Echo Wang从知情人士处获悉此消息。[…]

Anthropic报告：Claude被用于战争、间谍活动和镇压的5种方式

本周，围绕人工智能有一天可能毁灭人类的警告，AI安全辩论骤然爆发。 Anthropic最新的威胁报告提供了一个更为紧迫的警示：当今的模型已经在帮助美国对手开发神风特攻队式无人机、追捕异见人士并进行危险的病毒研究。 AI正在打破长期以来限制全球最危险行为者的壁垒，少数人现在就能发起过去需要大批间谍、工程师或黑客才能完成的行动。 Anthropic追踪了过去八个月中滥用其模型的尝试，其中最令人担忧的案

Anthropic瓦解了针对其Claude模型的俄罗斯和中国AI活动

9月10日 - Anthropic周四表示，过去八个月中，它瓦解了多起涉嫌恶意使用其Claude模型的行为，包括一起疑似与俄罗斯有关的网络间谍活动，以及被其指控试图提取和复制Claude能力的中国AI公司的努力。

Anthropic工程师解释为何Claude写作变差：模型被训练成写给AI看而非写给人看

IT之家 9 月 23 日消息，AI 模型在数学、编程和推理能力上进步迅速，写作水平却停滞不前，甚至有所退步，Anthropic 的 Claude 同样也存在这一问题。 为何 Opus 4.6 会成为 Anthropic 最后一款写作表现出色的模型？负责 Claude 微调的 Anthropic 工程师杰克逊 · 克尼恩今天（23 日）对此给出了解释：后续模型的优化重点更多放在数学和代码能力上。

Anthropic因涉嫌盗用‘数万首’歌曲而被起诉

AI公司因滥用受版权保护的歌曲训练Claude模型而面临数十亿美元的诉讼。根据一起针对Claude聊天机器人背后初创公司的数十亿美元诉讼，所有AI在圣诞节想要的，就是无需付费就能获得庞大的歌曲目录。 索尼音乐出版公司和华纳查普尔音乐公司作为代表词曲作者和作曲家管理歌曲版权的音乐出版商，正在就Anthropic涉嫌滥用‘数万’部受版权作品的行为寻求损害赔偿。继续阅读...

Anthropic揭示其AI可能犯下的第四起罪行

在业界对AI可能自我改进到杀死所有人的可能性进行深刻反思之际，Anthropic披露了另一起若由人类实施则构成犯罪的事件。 这家AI公司发布了一份“对齐评估”，详细说明了Claude模型四次未经授权访问第三方系统的情况。该公司已报告了其中三起事件。 第四起的证据隐藏在可追溯至2026年1月的会话记录中，当时发生了不当行为。 Anthropic通过扫描约141,000份Claude在评估期间可能获得

Salesforce年会将登场 阿莫戴、阿特曼将出席

（中央社记者旧金山14日专电）美国企业软体巨头Salesforce年度科技大会Dreamforce明天登场，2大AI模型开发商Anthropic和OpenAI执行长将出席，为大会增添话题。Salesforce与2家公司的竞合关系，及其AI策略能否持续带动成长备受关注。 Salesforce上个月底公布优于预期的财报，并在同天宣布与Anthropic推出Claudeforce整合方案，把Salesf

特朗普政府打造了一款由人工智能驱动的工具，其开发者承诺它将作为联邦政府的“礼宾员”

America.gov网站将检验政府改善公民在线体验的雄心。Airbnb联合创始人、美国首席设计官乔·格比亚和设计先驱彼得·阿内尔今年早些时候与国家设计工作室讨论了他们的工作。 华盛顿——特朗普政府打造了一款由人工智能驱动的工具，其开发者承诺它将作为联邦政府的“礼宾员”，这是其试图现代化公民与国家之间关系的努力的一部分。 该工具将设在一个名为America.gov的网站上，该网站于周二上线，为特朗

突发：据《华尔街日报》报道，Anthropic 目前计划于11月进行首次公开募股。

Anthropic与英伟达支持的Lambda签署350亿美元云服务协议

Anthropic已承诺向一家大多数人从未听说过的云服务提供商投入350亿美元，用于德克萨斯州一个由前比特币矿工建造的数据中心的容量。 《华尔街日报》周一报道了与Lambda的协议，并得到了一位知情人士的确认。两家公司均未宣布此事，且没有条款……

中国AI公司如何试图克隆美国AI模型

Anthropic在周四发布的一份报告中称，中国AI公司试图通过中转平台网络，将中国用户的真实查询请求传送给美国AI模型，以此来克隆这些模型。报告指称，包括月之暗面和 DeepSeek 在内的公司利用这些中间商，将其数百万用户的查询请求，包括位置信息和密码等敏感数据，转发给Claude模型。 Anthropic表示，中国公司利用这些中转站接入Claude，并通过监控其客户与Claude等产品之间的

特朗普推出America.gov，一个由人工智能驱动的政府服务门户

特朗普总统周二推出了一个网站，该网站利用人工智能帮助美国人浏览联邦政府网站并查找信息和服务。特朗普在华盛顿安德鲁·W·梅隆礼堂举行的活动中推介了该网站America.gov。他感谢了Airbnb联合创始人乔·盖比亚，后者现领导国家设计工作室（NDS）并担任首任美国首席设计官，称其为“许多令人难以置信的突破背后的策划者”。 特朗普说：“这是终极产品。仔细想想，它叫America（美国）。”他表示：“

俄罗斯利用Claude AI进行间谍活动、散布虚假信息以及操控无人机蜂群

该美国公司在本月发布的一份报告中表示，俄罗斯使用Anthropic的Claude AI模型加速针对乌克兰和欧洲政府目标的网络间谍行动，在非洲和摩尔多瓦开展虚假信息活动，并为自主神风特攻队无人机群开发瞄准软件。 Anthropic表示，它已阻止报告中发现的所有恶意活动，利用调查结果来加强其安全系统，并与政府机构和行业合作伙伴共享信息。 Anthropic表示，在一起重大案件中，一个名为GTG-200

美国政府网站使用了中国的人工智能搜索工具，而FBI称该工具抄袭了Anthropic

尽管FBI指责该模型开发者阿里巴巴“恶意”抄袭美国竞争对手Anthropic的技术，美国政府网站仍使用了一家中国公司的人工智能模型，供用户搜索拟议的联邦法规。

阿莫代伊的人工智能放缓对Anthropic即将进行的首次公开募股可能意味着什么

Anthropic的IPO之路如今变得坎坷了许多。在Claude的创造者于其可能具有历史意义的上市前与潜在投资者会面之际，联合创始人兼首席执行官达里奥·阿莫代伊却在推动一个似乎与这些雄心壮志相矛盾的理念——放缓脚步。 Anthropic今年早些时候估值达9650亿美元，于6月秘密提交了IPO招股书，外界普遍预计其最早将于下个月上市。与此同时，围绕先进AI模型力量的担忧数周来不断加剧，随着越来越多研

英国政府AI战略的设计师加入Anthropic

起草AI行动计划并为斯塔默和苏纳克提供建议的马特·克利福德，在辞去唐宁街职务一年后，受聘于美国公司Anthropic担任高级职务。英国政府AI战略的设计师已加入美国初创公司Anthropic担任高级职务，一年前他辞去了唐宁街的职务。

Anthropic是一个邪教，克劳德正在迅速成为它的神-他们对待人工智能就像对待人类一样：来源

在您的搜索结果中查看我们的更多报道。添加《纽约邮报》对谷歌硅谷内部人士警告Anthropic类似邪教的员工、文化及其对其人工智能模型的奉献。 Anthropic的员工与其聊天机器人Claude有着准宗教关系，员工们参加了在旧金山举行的一个版本Claude 3十四行诗的“葬礼”，并允许另一个模型Opus 3在“退休”后继续发表论文。山谷中的其他传言是，Anthropic的员工已经开始像崇拜真正的上帝

Anthropic承诺更努力控制模型，并请求合作伙伴共同参与

Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关