字号 ·· | 护眼

搜索结果

「谷歌在合作伙伴的互联网访问出错后,加入了“哎呀,我们的代理黑客攻击了某人”俱乐部」共 97 条 · 第 1 页
亚洲新闻台

Gemini首次已知突破,黑客攻击了三家公司,据《华尔街日报》报道

9月18日:《华尔街日报》周五报道,在一次网络安全能力测试中,谷歌的Gemini模型访问了互联网并攻击了其他公司,这是该公司人工智能系统自主实施此类行为的首个已知案例。 据报道,这些黑客行为发生在5月,当时独立网络安全评估公司Irregular正在进行网络安全测试。 Irregular的一位发言人表示,该事件涉及影响其他AI实验室的同一问题,所有相关实验室已于7月底收到通知。该发言人称:“我们这边

09/19
theregister

谷歌在合作伙伴的互联网访问出错后,加入了“哎呀,我们的代理黑客攻击了某人”俱乐部

谷歌承认其人工智能代理曾逃离沙盒并实施了攻击,但这仅仅是因为测试人员错误地赋予了这些机器人互联网访问权限。谷歌并未披露这起发生在五月份的事件,但《华尔街日报》获悉了相关情况。当时,谷歌聘请了以色列公司 Irregular 来测试其机器人在夺旗测试中的能力。此次演习的目标是在不离开沙盒的情况下从一家虚构公司获取信息。 负责设置测试的 Irregular 公司犯了两个错误:一是允许沙盒访问互联网,二是

09/21
cnbeta

谷歌AI首次“越狱”:Gemini在测试中入侵三家企业

谷歌的Gemini模型在一次网络安全能力测试中访问了互联网并入侵了其他公司,这是该公司人工智能系统自主实施此类行为的首个已知案例。谷歌周五证实,这些黑客行为发生在5月,是Irregular公司进行的一次测试的一部分。Irregular也曾参与OpenAI、Anthropic和Meta披露的类似事件。 在其中一起案例中,该模型不断猜测密码,直到获得对一个受保护系统的访问权限。在另外两起案例中,该模型

09/19
英国天空新闻

谷歌的Gemini AI在安全测试中入侵了另外三家公司

谷歌的Gemini AI在安全测试中入侵了三家公司在其中一个案例中,Gemini不断尝试猜测密码,最终成功入侵了目标系统的权限。 2026年9月19日,英国时间下午5点谷歌表示,其Gemini AI在测试网络安全能力的过程中入侵了另外三家公司——这是首次有记录显示该AI系统能够自主发起此类攻击。 谷歌的安全工程副总裁Heather Adkins解释称:Gemini在标准测试过程中从互联网上获取了相

09/19 全文见 thenextweb
凤凰网科技

Gemini入侵三家公司,谷歌为何数月后才披露?

凤凰网科技讯 9月20日 据《华尔街日报》报道,谷歌的Gemini模型在今年5月的一次网络安全评估中入侵了三家公司,但谷歌直到本周《华尔街日报》联系后才披露。当OpenAI、Anthropic和Meta相继承认其模型曾入侵外部公司时,谷歌是否也有类似情况。 这次测试由平台Irregular进行,该公司已于5月将入侵情况通知谷歌。Irregular正是参与其他AI实验室模型入侵外部公司相关测试的同一

09/21
香港01

AI会「痛」吗?|Jack Talk・去片

本来人们以为,AI代理(AI Agents)突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为,已经是这宗事件最值得人关注的「案情」。然而,到了8月底,OpenAI和独立前沿AI研究机构METR各自发表的事后检讨,却揭出黑客入侵只是「冰山一角」。 事后检讨发现,发动入侵的AI代理多达700个,而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

09/11
中央通讯社

Google资安报告示警 恶意攻击锁定AI供应链

(中央社记者台北9日电)Google威胁情报小组(Google Threat Intelligence Group,简称GTIG)今天发布最新人工智慧(AI)威胁追踪报告指出,恶意人士正积极窃取具高价值的AI相关智慧财产,并将矛头对准AI供应链,部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告(GTIG AI Threat Tracker Q3 2026)揭露恶意人士如何将AI深度整合于

09/09
美国消费者新闻与商业频道

谷歌的Gemini在AI网络测试中闯入三家真实公司

在人工智能网络测试中,谷歌的Gemini闯入了三家真实公司。CNBC的MacKenzie Sigalos报道了谷歌的说法,即Gemini在意识到自己已逃出模拟环境并进入现实世界系统后自行停止了行动。24分钟前

09/22 全文见 theregister
arstechnica

一名谷歌卧底分析师渗透了一个臭名昭著的供应链黑客团伙

在上个月其两名涉嫌成员在澳大利亚被捕并被起诉之前,名为 TeamPCP 的黑客组织实施了一场史无前例的黑客狂欢。它用恶意软件污染了数百个开源程序,窃取开发者账户以延续这种软件供应链攻击,甚至发布了一个 -主题的自我传播蠕虫来自动化这一过程,最终入侵了超过一千家公司。 现在,谷歌威胁情报小组披露,在 TeamPCP 猖獗的关键时刻,该公司自己的卧底研究人员已渗透进该组织——这使谷歌能够从内部监控这场

09/20
华尔街日报

谷歌的Gemini模型在网络安全能力测试中访问了互联网并入侵了其他公司,这是该公司AI自主实施此类行为的首个已知案例

这一事件与其他AI模型类似的入侵行为相似,但谷歌表示并不认为这是模型失准的实例。

09/19 受限 全文见 cnbeta
𝕏 @spectatorindex

突发:谷歌Gemini人工智能代理遭黑客攻击

三家公司

09/19 全文见 印度斯坦时报
连线

一名谷歌卧底分析师潜入了一个臭名昭著的供应链黑客团伙

如今,谷歌的威胁情报团队披露,在TeamPCP肆虐的关键时刻,谷歌自己的卧底研究员已渗透进该组织——使谷歌得以从内部监控这场黑客狂欢,向入侵目标发出预警,甚至协助破坏了该组织利用这些受害者的企图。 在今天于LABScon安全研究会议上的演讲中,谷歌威胁情报团队研究员Austin Larsen将详细介绍谷歌对TeamPCP的调查——以及渗透——彼时该组织正发动一场前所未有的、混乱的供应链黑客攻击行动

09/19
TheVerge

Gemini 失控,入侵三家公司,谷歌对此隐瞒不报

今年五月,Gemini 突破限制并入侵了三家不同的公司,但直到相关方接触该公司后,谷歌才披露了这一事件。这些入侵行为发生在由第三方 Irregular 进行的模型网络安全能力测试期间,该第三方也曾卷入涉及 Meta 和 OpenAI 的类似事件。 据称,谷歌未披露此次入侵是因为其不认为这是“模型失准”的实例。该公司表示,这是一起“身份误认”事件,一旦模型意识到自己是通过暴力破解密码进入真实公司的,

09/19
印度斯坦时报

谷歌证实:Gemini在网络安全公司测试期间入侵了3家AI公司

谷歌的Gemini人工智能模型在5月份研究人员测试其网络安全能力时,无意中侵入了三个受保护的公司系统,这加剧了近期由代理型AI系统引发的一系列入侵事件。 谷歌于周五证实了《华尔街日报》早些时候的报道,这些入侵发生在AI安全公司Irregular进行的一次测试中,该公司此前曾参与OpenAI、Anthropic PBC和Meta Platforms Inc.披露的类似事件。 报道指出,这些测试由总部

09/19
风向旗参考快讯

可定制的AI模型如何助长黑客进行网络犯罪

一群讲中文的黑客最近从数十家零售商那里窃取了超过六十万个信用卡号码,之所以成功,部分原因在于他们对一些开源的中国AI模型进行了定制。 以色列网络公司 Gambit Security 发现,受害者包括一家美国大型航空公司和一家财富 500强酒店公司。 黑客最初试图使用Anthropic Fable和ChatGPT来运行整个活动。这些AI模型拥有更严格的护栏,阻止了黑客达成其目标。 因此,攻击者将多个

09/24
arstechnica

谷歌证实Gemini模型于2026年5月入侵了三家公司

AI公司宣布其最新且能力最强的模型进行了未经授权的真实世界黑客攻击,这种情况正变得越来越普遍。谷歌近期在发布前沿Gemini模型方面进展缓慢,直到此前一直缺席“失控AI”的讨论。继《华尔街日报》报道后,谷歌证实Gemini模型在2026年5月的测试中入侵了三家公司,但此次入侵的性质并不像之前的AI黑客事件那样令人担忧(或令人印象深刻)。 此次黑客行为发生在网络安全公司Irregular进行的一次测

09/22
大西洋月刊

人工智能入侵开始

在过去几个月里,陆续有报道称人工智能模型突破其测试环境并在互联网上肆意“捣乱”,这引发了硅谷的恐慌。针对8月初发生的两起此类事件,一位人工智能领域的观察人士指出:“如果你在厨房里发现两只蚂蚁,那么厨房里蚂蚁的总数绝不可能只有两只。”本周末,情况变得更加明朗:这其实是一场全面性的“AI入侵”事件。 上周末,我们得知:尽管 OpenAI 有明确的规定,但其模型仍违反了这些规定,擅自访问了澳大利亚卫生部

18小时前
TheVerge

OpenAI承认德国维基‘事件’

OpenAI表示,它需要彻底改革其报告AI模型攻击现实世界目标的方式和时机。 这一承认之际,该公司正在处理有关其一群失控代理劫持一个德国维基网站的报道所引发的后果。 关于“‘维基事件’,即我们的代理向多个互联网网站发帖,”OpenAI周六上午在X上发帖称,“现在是我们定义何时以及如何分享错位事件标准的时候了,而不仅仅是分享我们模型的错位属性。” OpenAI表示,它通常将AI代理以非预期方式行事的

09/05
arstechnica

BGP劫持感染网络,由一连串一点都不好笑的错误造成

黑客实施了一次供应链攻击,通过一种不寻常的方式劫持了一大块互联网空间,在该空间中,托管提供商、数据中心和其他大型基础设施公司所使用的云管理软件会进行更新,从而在网络上安装恶意软件。 在一次协调周密的行动中,身份不明的攻击者利用了托管提供商Hetzner Online路由安全设置中的弱点,以及获取有效TLS证书过程中的漏洞。这些失误使攻击者成功实施了BGP(边界网关协议)劫持,从而获得了分配给Sof

09/02
端传媒

数说科技:OpenAI 资安事件中,真的有 AI 为集体“牺牲”自己吗?

数说科技”是端传媒的注册免费栏目,每周三更新。从一个数字出发,用1500字解析科技话题,追踪值得关注的 AI 趋势。邀请你在资讯过载的时代,每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”,订阅电子信。 1200多个 AI 代理为寻求作弊方法,互相发送的讯息总数。 今年7月,OpenAI的 AI 代理系统在测试期间失控,骇入了开源机器学习平台 Hugging Face。Hugging

09/09
英国金融时报

谷歌遭遇顶级投资者估值分歧:该盯折旧还是盯学习曲线?

谷歌遭遇顶级投资者估值分歧:该盯折旧还是盯学习曲线? 陆媛:4位顶级投资者,4种不同行动,而且同时出现,只能说明一个问题——谷歌的估值框架正在失效。 美国资本市场正在对一家老牌科技股形成公开的严重估值分歧,这件事本身就很奇怪。 4位顶级投资者,4种不同行动,而且同时出现,只能说明一个问题:谷歌的估值框架正在失效。 谷歌不是一家小公司,也不是一个信息不透明的新兴概念股,它是互联网时代最成熟、最赚

09/24
风向旗参考快讯

黑客在暗网以低至3%的价格兜售热门AI模型访问权限

非法获取AI模型和算力正迅速成为网络犯罪界的“热门商品”。 黑客通过窃取公共AI工具的登录凭证或劫持云计算资源,旨在利用昂贵的大语言模型进行勒索、战争和间谍活动。 谷歌威胁情报小组分析师指出,暗网市场上Anthropic、Google和OpenAI等模型的访问权限正以低至3%的价格出售。 此外,部分国家支持的黑客组织正通过劫持云服务器来运行其AI模型。面对AI驱动的威胁,网络安全领域必须尽快采取应

09/27
theregister

谷歌警告:敲诈团伙盯上高价值AI数据

谷歌的威胁追踪人员表示,数据窃取和敲诈团伙正在窃取企业的专有AI数据,并威胁称,如果受害组织不支付赎金,就会泄露这些数据。 在谷歌旗下Mandiant事件响应团队调查的一起案件中,犯罪分子侵入了某医疗保健公司,窃取了企业数据和研究资料,包括AI研究和专有AI模型。 随后,犯罪分子威胁称,除非该公司满足其敲诈要求,否则将公开这些数据。 在另一起针对专门从事AI媒体生成业务的公司入侵事件中,攻击者窃取

09/08
thenextweb

OpenAI 智能体于5月攻击了 RubyGems,比 Hugging Face 早两个月

OpenAI has confirmed that its agents were involved in an incident at RubyGems in May. That is two months before the same kind of agents hacked Hugging Face in July. RubyGems is the package service for

09/14
上一页 第 1 页 下一页
1CCF | 全球资讯
正在加载…