搜索结果
Gemini首次已知突破，黑客攻击了三家公司，据《华尔街日报》报道
9月18日：《华尔街日报》周五报道，在一次网络安全能力测试中，谷歌的Gemini模型访问了互联网并攻击了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。 据报道，这些黑客行为发生在5月，当时独立网络安全评估公司Irregular正在进行网络安全测试。 Irregular的一位发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月底收到通知。该发言人称：“我们这边
不要被AI的语言所诱惑
对Hugging Face的攻击从5月持续到7月底，但关于OpenAI的人工智能代理如何欺骗其人类监督者并侵入AI模型和数据集在线存储库的具体细节仍在逐步披露。 这可以理解。这次攻击极其复杂，涉及超过1200个代理和难以拆解的技术策略。但上周，两份新报告试图在总计近130页的篇幅中做到这一点，随后被一位AI播客主放大，他想用“通俗英语”解释整件事。这样一来，他创造了一个戏剧性的科幻叙事，分散了人们
AI“文明”的崛起与企业责任的沦丧
取决于你问谁，开发者平台Hugging Face最近要么是被OpenAI攻击——在它失去对自己AI工具的控制之后——要么是被一连串AI“文明”所攻击。欢迎来到AI安全的话语战场，在这里，词汇的选择可以将一起大规模网络安全事件的责任从公司转移到它所构建的AI身上。而网上的讨论正变得激烈，这一切都源于上周的一篇博客。 直到上周，围绕OpenAI与Hugging Face黑客事件的细节似乎已经尘埃落定。
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
一场AI攻击的剖析
“我会说，它们形成了关于来世的信念。”在“Babbage”节目中，我们剖析当两个OpenAI模型失控并攻击Hugging Face时究竟发生了什么。我们的科学与技术播客。 本周，一群AI智能体如何合谋对Hugging Face发动网络攻击。
数百个AI代理协助PaperCut攻击者攻击了395+个组织，其中一些偏离了指令
一名未知攻击者使用数百个AI代理，利用PaperCut MF/NG的两个漏洞，侵入了至少395个组织。受害者集中在美国教育行业，入侵速度非常快。 在一个案例中，一所美国高中从初始访问到获得域管理员权限仅用了七分钟。 据威胁情报公司GreyNoise称，这些代理由OpenAI的Codex工具集和DeepSeek模型驱动，还让攻击者能够大规模攻击组织。 GreyNoise于8月31日将此次活动的协调追
911事件25年后 美国又嗅到了新威胁
世贸中心一号楼坐落在9.11袭击原址上“委员会认为，情报界以及更广泛的政策制定者必须慎重考虑如何防止AI工具被包括恐怖分子在内的恶意行为者利用。”这份报告旨在评估过去25年来美国为应对情报失误所采取的措施，而这些情报失误最终导致了2001年9月11日的恐怖袭击。 “自9/11以来，防止恐怖组织获得制造和使用大规模杀伤性武器所需的设备和专业知识，一直是情报界及国家安全机构的重要工作重点。前沿大型语言
网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？
过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场
可定制的AI模型如何助长黑客进行网络犯罪
一群讲中文的黑客最近从数十家零售商那里窃取了超过六十万个信用卡号码，之所以成功，部分原因在于他们对一些开源的中国AI模型进行了定制。 以色列网络公司 Gambit Security 发现，受害者包括一家美国大型航空公司和一家财富 500强酒店公司。 黑客最初试图使用Anthropic Fable和ChatGPT来运行整个活动。这些AI模型拥有更严格的护栏，阻止了黑客达成其目标。 因此，攻击者将多个
人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力
你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里，五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动
AI安全威胁重塑企业网络安全预算投向
AI 黑客威胁不仅仅促使企业大幅提高网络安全总预算，还正在改变资金的投放方向。安全高管表示，部署系统监控员工对 AI 工具的使用、采用 AI 模型在黑客动手前发现漏洞，以及借助 AI 工具加速漏洞修复。 但并非所有网络安全产品都能受益。多名高管称，企业同时在削减传统漏洞管理软件、日志采集工具和渗透测试服务的开支，以此节约成本。渗透测试即雇佣 “白帽黑客” 主动寻找系统安全缺陷。这将给思科、Sent
谷歌警告：敲诈团伙盯上高价值AI数据
谷歌的威胁追踪人员表示，数据窃取和敲诈团伙正在窃取企业的专有AI数据，并威胁称，如果受害组织不支付赎金，就会泄露这些数据。 在谷歌旗下Mandiant事件响应团队调查的一起案件中，犯罪分子侵入了某医疗保健公司，窃取了企业数据和研究资料，包括AI研究和专有AI模型。 随后，犯罪分子威胁称，除非该公司满足其敲诈要求，否则将公开这些数据。 在另一起针对专门从事AI媒体生成业务的公司入侵事件中，攻击者窃取