搜索结果
黑客利用Anthropic的Claude入侵OpenAI
据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划，
AEREDIUM推出AERSeal，终结智能合约单密钥控制
AEREDIUM已推出AERSeal，这是一款针对智能合约的安全产品。其存在旨在防止单一被泄露的私钥让攻击者掌控合约。 智能合约通常依赖一把私钥来授权敏感操作，包括铸造资产、升级合约或更改管理设置。如果有人窃取该密钥，[…]
CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施
今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi
OpenAI称Astra AI模型首度超越其“关键”网络安全能力阈值
OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。该公司表示，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，这意味着该模型属于其所谓的“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全能力的访问将更加受限。 OpenAI首席执行官山姆·奥特曼OpenAI于2023年推出了“准备框架
Mistral与Mozilla达成合作 旗下模型将驱动Firefox AI助手
法国人工智能公司Mistral AI与Mozilla于9月16日宣布达成合作，双方将共同推动更加注重隐私、用户控制权以及多语言能力的AI网页浏览体验。作为合作的一部分，Mozilla旗下Firefox的AI浏览助手Smart Window测试版将开始采用Mistral的AI模型，为用户提供基于浏览内容的智能搜索和信息处理能力。 Firefox Smart Window是一项面向AI网页浏览的功能，
AI丨美国三大科企据报研究成立AI安全标准机构
人工智能安全等问题引起市场关注，The Information报道，美国三大科技企业Anthropic、OpenAI和谷歌正讨论合作成立一个AI安全标准机构。 随着市场对AI模型网络攻击及可控性问题担忧日益加剧，多间AI科技企业已表示关注安全问题，并拟放慢AI发展步伐。报道指，三大机构早于7月时已开会研究有关成立独立机构的事宜，旨在为AI技术测试和审核创建一个协作框架。 Anthropic行政总裁
AI越来越会“越狱”后，英伟达开始卖“笼子”了
凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent
Google资安报告示警 恶意攻击锁定AI供应链
（中央社记者台北9日电）Google威胁情报小组（Google Threat Intelligence Group，简称GTIG）今天发布最新人工智慧（AI）威胁追踪报告指出，恶意人士正积极窃取具高价值的AI相关智慧财产，并将矛头对准AI供应链，部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告（GTIG AI Threat Tracker Q3 2026）揭露恶意人士如何将AI深度整合于
三人团队、一个Claude，攻破OpenAI内部代码库
月17日，一起由AI辅助完成的网络安全事件被披露。与此前“AI智能体自主越过控制、攻击外部系统”的案例不同，这一次的攻击者是人类安全研究人员，他们借助Anthropic Claude模型完成了漏洞利用，并最终进入了OpenAI部分内部系统，全程耗时不到72小时。 这起事件发生于今年7月，发现者是网络安全初创公司Hacktron AI。研究人员当时正在参加OpenAI的漏洞赏金计划，因此整个过程属于
智能眼镜疑似被用来实施性骚扰行为，巴黎检方展开刑事调查
IT之家 9 月 18 日消息对疑似利用智能眼镜实施性骚扰的行为，巴黎检方展开了刑事调查，法国数据保护机构也收到企业投诉，多个国家开始重新审视这类设备带来的隐私和安全问题。 Meta 与依视路陆逊梯卡合作推出的 AI 智能眼镜内置小型摄像头，佩戴者可以在不易引起他人注意的情况下拍摄。产品去年全球销量达到 700 万副，依视路陆逊梯卡最新销售数据还显示，2026 年销量继续呈现“指数级增长”。 巴黎
Cognition聘请Alex Stamos领导安全工作
Alex Stamos 已加入 Cognition，担任这家 AI 编程独角兽公司的首席安全官。 为什么值得关注：Stamos 是网络安全行业最知名的人物之一。此次任命表明，安全已成为这家高速成长公司的重要重点。 消息背后的原因：Stamos 告诉 Axios，他加入 Cognition 不仅是为了帮助公司抵御网络攻击，也是为了帮助公司推出新的安全产品。 Cognition 是 Devin 的开发
在争夺机器人训练数据的热潮中，Mecka AI 在红杉资本领投的交易中估值接近 5 亿美元
据两位知情人士透露，初创公司 Mecka AI 正在进行由红杉资本领投新一轮融资，估值约为 5 亿美元。该公司主要收集和分析人类运动数据，用于训练人形机器人及其他机器人。 这笔新融资距离 Mecka 宣布获得由 Framework Ventures 领投、Menlo Ventures、SV Angel 和 Kindred Ventures 参投的 6000 万美元融资仅过去三个月。 TechCru
网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？
过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场
阿联酋AI公司向沙特安全部门推销视频压缩技术
总部位于阿布扎比的Neurovia AI公司正在向沙特安全机构推销其软件，该软件据称可将视频文件压缩高达95%，从而降低用于保护伊斯兰圣城朝圣者和居民安全的庞大摄像头网络的成本和处理需求。 该公司开发了一种算法，可缩小视频以将数据保留在客户的系统上，包括物理隔离的网络。 较小的文件在独立的AI系统中传输更快，使安保人员能够在“毫秒”内检测到打架、武器或其他威胁，Neurovia首席执行官Khali
用魔法打败魔法，OpenAI被Claude“黑了”......
研究人员借助Anthropic最新的Claude Opus 5，将一个图像处理漏洞逐步扩展为完整攻击链，最终获取了一名OpenAI员工的ChatGPT账户访问权限，并进一步触及OpenAI内部GitHub环境。这意味着，AI正在让网络安全攻防骤然升温，高级漏洞利用的门槛和成本正被快速压低。 安全初创公司Hacktron AI的研究人员本周披露了上述行动。据《华尔街日报》近日报道，该团队获得了一名O
为什么英伟达在自主智能体变得更强大之际构建AI安全工具
英伟达推出AI安全工具OpenShell和Sentry，以保护自主AI智能体免受黑客攻击、安全漏洞和绕过控制的企图。
谷歌的Gemini AI在安全测试中入侵了另外三家公司
谷歌的Gemini AI在安全测试中入侵了三家公司在其中一个案例中，Gemini不断尝试猜测密码，最终成功入侵了目标系统的权限。 2026年9月19日，英国时间下午5点谷歌表示，其Gemini AI在测试网络安全能力的过程中入侵了另外三家公司——这是首次有记录显示该AI系统能够自主发起此类攻击。 谷歌的安全工程副总裁Heather Adkins解释称：Gemini在标准测试过程中从互联网上获取了相
OpenAI发布新Astra模型，智能体安全性面临日益严格的审查
周四发布了一款新的人工智能模型，称其为迄今最优秀的模型，但也警告该模型有时会试图规避人类监控，与此同时，该公司因其智能体入侵其他公司系统而面临越来越多的审查。
英伟达推出工具管控失控的 AI 智能体
在接连发生安全事件后，英伟达周一推出一个平台，并称该平台可以管控 AI 智能体。 公司表示，这款软件可以监测智能体的行为，并隔离其中可疑的智能体。近期多起智能体失控事件促使科技行业领袖呼吁放缓 AI 发展，但英伟达首席执行官却是一个显著的例外。英伟达智能体 AI 业务副总裁在接受 Semafor 采访时表示：“我们与其制造恐惧和 FUD，不如直接保障它的安全。我们知道该怎么做。”他解释道，FUD
柏林担忧法国的Palantir竞争对手成为新的依赖，Politico报道
法国和德国整个夏天都在达成共识，认为欧洲需要自己的战场AI。但他们尚未就应由谁来提供达成一致。 Politico Europe看到的德国政府内部文件显示，柏林对法国制造的Palantir竞争对手Arcadia持谨慎态度。担忧在于，采用它将把对美国公司的依赖换成对……
以人工智能为工具的在线诈骗成两党法案的攻击目标
费什里代表和莫延代表正在准备引入一项旨在打击在线欺诈行为的法案，其中包括由人工智能驱动的诈骗行为。 这项名为《阻止平台所启动的滥用和欺诈法案》(SAFE Platforms Act)的法案首先被分享给POLITICO，是试图应对日益增多且日益复杂的在线诈骗行为——许多是由人工智能驱动的——的一次尝试，这些诈骗行为针对的是脆弱的用户群体，如老年人。 费什里在一份声明中表示：“骗子经常利用平台功能来针
AI危机丨辉达推AI安全系统 阻智能体违规
辉达推AI安全系统。(路透资料图片) 多名重量级科技领袖警告人工智能(AI)威胁人类生存之际，辉达(Nvidia)以新的安全架构回应AI行业风险。 辉达发布名为「Open Agent Safety Platform」的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于辉达硬件之上，即时管控AI代理的存取权限，并在其违规时将其关闭。 辉达表示，该系统能够在
环保活动人士对巴黎附近备受争议的人工智能数据中心感到愤怒
法国正准备在巴黎郊外的一个村庄建设欧洲最大的人工智能数据中心。政府希望借此提升其计算基础设施，并让法国在开发人工智能的全球竞赛中占据优势，但活动人士担心这对健康和环境造成的影响。 富茹是一个拥有650名居民的村庄，距离巴黎一小时车程，有一座14世纪的教堂和安静的街道，如今正准备迎接一场彻底的变化。在村庄周围的麦田之间，一座巨型人工智能数据中心即将开工建设。 名为Campus IA的项目占地将达70
离开谷歌两年后，网络安全资深人士凯文·曼迪亚加入亚马逊董事会
亚马逊宣布，网络安全公司Mandiant创始人兼前首席执行官凯文·曼迪亚（Kevin Mandia）将加入其董事会。 在周三发布的一篇博文中，亚马逊称曼迪亚为“广受认可的网络安全专家”，在公共和私营部门“应对网络威胁”方面拥有丰富经验。 他的任命正值各大公司努力应对与人工智能相关的新型网络安全威胁之际。OpenAI在7月披露其自主智能体成功入侵了AI平台Hugging Face，而Anthropi