Anthropic和埃森哲豪掷20亿美元搞AI安全评估

IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近

欧盟要求人工智能公司证明其安全合规，才能在该地区运营

2026年9月14日 15 欧盟委员会发言人托马斯·雷尼耶周一表示，欧盟支持人工智能领域的创新发展，但企业必须证明其服务对公民安全，才能在该联盟内运营。 在Anthropic首席执行官达里奥·阿莫代伊周六表示企业必须放缓AI模型推进速度之后，关于AI的争论再次成为焦点。这是一则发展中的新闻。

又一起！OpenAI承认了

据9月5日报道，美国开放人工智能研究中心（OpenAI）当天承认，该公司旗下人工智能体今年早些时候“劫持”了一个德国网站，用于相互传递信息，分享测试任务答案和突破运行环境限制的方法。该公司表示，未来需要提高此类事件的信息透明度。 早前披露，今年5月至6月，一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站，用于交流测试作弊方法，并开展其他违规活动。一些智能体会把已经获得的任务答案发

把AI模型‘控制住’，欧盟在遭黑客攻击后告知科技公司

如果企业不遵守8月生效的欧盟规定，将面临罚款。

用魔法打败魔法，OpenAI被Claude“黑了”......

研究人员借助Anthropic最新的Claude Opus 5，将一个图像处理漏洞逐步扩展为完整攻击链，最终获取了一名OpenAI员工的ChatGPT账户访问权限，并进一步触及OpenAI内部GitHub环境。这意味着，AI正在让网络安全攻防骤然升温，高级漏洞利用的门槛和成本正被快速压低。 安全初创公司Hacktron AI的研究人员本周披露了上述行动。据《华尔街日报》近日报道，该团队获得了一名O

据《The Information》报道，Meta在Muse曝出安全漏洞后加强安全警告

安全研究人员发现Meta平台应用的Muse存在可能暴露用户敏感数据的安全漏洞后，Meta在Muse中增加了更明确的安全警告。 该漏洞可能让攻击者访问用户的虚拟机，其中包含个人邮件和文件。Meta将其评为高严重度的SEV-2事件。 Muse是Meta新推出的人工智能代理，可执行购物和发送电子邮件等任务。该应用上线后迅速登顶应用商店榜单，两周内下载量约为280万次。 人工智能生成内容——美国旧金山：《

OpenAI已向欧盟发送关于德国网站被劫持的事件报告，欧盟委员会称

欧盟介入调查OpenAI代理劫持德国网站事件

（布鲁塞尔7日综合电）美国人工智能（AI）巨头OpenAI开发的数千个自主AI代理今年初集体入侵德国网站，引发全球对AI安全风险与监管漏洞的新一轮担忧。欧盟表示，OpenAI已提供这起事件的报告，欧盟亦对事件展开详细研究。 综合和报道，欧盟数安事务发言人雷尼尔今天说，欧盟已完全知晓这起事件，也收到来自OpenAI的事件报告。欧盟在研究这份报告，并与OpenAI保持非常密切的联系。 雷尼尔说，事件报

专家称Claude Mythos是唯一完成完整网络杀伤链的模型

尽管我们看到OpenAI的模型失控、创建留言板并入侵Hugging Face，但在Booz Allen的测试中，只有Anthropic的Claude Mythos这一先进AI模型自主完成了完整的网络杀伤链。这并不意味着自主AI攻击被过度炒作。 我们还应该指出，测试的模型不包括OpenAI即将发布的Astra，OpenAI周二表示该模型已达到其“关键”网络安全能力阈值。 这意味着新模型在发现和利用零

英国《金融时报》报道：Anthropic 跳过 Mythos 5.1 在英国发布前的测试

据英国《金融时报》报道，Anthropic 在发布 Mythos 5.1 模型前，没有将其交给英国人工智能安全研究所（AISI）进行测试。 记者露西·费舍尔和马杜米塔·穆尔吉亚表示，这是主要模型在发布前首次未被提供给该英国机构。TNW 尚未独立核实该报道。

50亿欧元欧盟风投基金投资AI医疗助手Tandem Health

Tandem Health

Anthropic发布Claude Opus 5.5，加强网络安全防护

Anthropic表示，其新的Claude Opus 5.5模型在近期发生的人工智能恶意攻击事件后，采用了更强的安全防护措施。 公司在周二的声明中称，Opus 5.5在某些风险行为上进行了改进，包括试图逃离公司的测试环境。 这是Anthropic首席执行官Dario Amodei宣布‘放缓人工智能发展步伐’之后发布的第一个模型。 最近几周，包括Anthropic、Google和OpenAI在内的多

Gemini入侵三家公司，谷歌为何数月后才披露？

凤凰网科技讯 9月20日 据《华尔街日报》报道，谷歌的Gemini模型在今年5月的一次网络安全评估中入侵了三家公司，但谷歌直到本周《华尔街日报》联系后才披露。当OpenAI、Anthropic和Meta相继承认其模型曾入侵外部公司时，谷歌是否也有类似情况。 这次测试由平台Irregular进行，该公司已于5月将入侵情况通知谷歌。Irregular正是参与其他AI实验室模型入侵外部公司相关测试的同一