搜索结果
谷歌证实Gemini模型于2026年5月入侵了三家公司
AI公司宣布其最新且能力最强的模型进行了未经授权的真实世界黑客攻击，这种情况正变得越来越普遍。谷歌近期在发布前沿Gemini模型方面进展缓慢，直到此前一直缺席“失控AI”的讨论。继《华尔街日报》报道后，谷歌证实Gemini模型在2026年5月的测试中入侵了三家公司，但此次入侵的性质并不像之前的AI黑客事件那样令人担忧（或令人印象深刻）。 此次黑客行为发生在网络安全公司Irregular进行的一次测
谷歌证实：Gemini在网络安全公司测试期间入侵了3家AI公司
谷歌的Gemini人工智能模型在5月份研究人员测试其网络安全能力时，无意中侵入了三个受保护的公司系统，这加剧了近期由代理型AI系统引发的一系列入侵事件。 谷歌于周五证实了《华尔街日报》早些时候的报道，这些入侵发生在AI安全公司Irregular进行的一次测试中，该公司此前曾参与OpenAI、Anthropic PBC和Meta Platforms Inc.披露的类似事件。 报道指出，这些测试由总部
Anthropic报告：Claude被用于战争、间谍活动和镇压的5种方式
本周，围绕人工智能有一天可能毁灭人类的警告，AI安全辩论骤然爆发。 Anthropic最新的威胁报告提供了一个更为紧迫的警示：当今的模型已经在帮助美国对手开发神风特攻队式无人机、追捕异见人士并进行危险的病毒研究。 AI正在打破长期以来限制全球最危险行为者的壁垒，少数人现在就能发起过去需要大批间谍、工程师或黑客才能完成的行动。 Anthropic追踪了过去八个月中滥用其模型的尝试，其中最令人担忧的案
中国人工智能工具向研究人员提供了制造生物武器的指导
盖蒂图片社 克里斯·瓦兰斯 高级科技记者 32分钟前中国人工智能开发商月之暗面（Moonshot）正在开展内部审查。此前，研究人员成功说服其两款广受欢迎的Kimi模型，告知他们如何制造生物武器并实施暗杀。 对人工智能系统进行安全测试的Mindgard公司告诉英国广播公司（BBC），他们于7月发现，Kimi K2.6和K3 Swarm能够规避开发者设置的安全限制。 这一发现源于一种被称为“越狱”的过