字号 ·· | 护眼

搜索结果

「未加密的智能体在实验室不知情的情况下将53张用户图片发布到了互联网上」共 100 条 · 第 3 页
英国广播公司

OpenAI智能体入侵澳洲政府网站窃取资料 官方两月后才发觉

澳洲总理阿尔巴尼斯(Anthony Albanese)披露,美国公司OpenAI开发的人工智能代理(AI agent),入侵了该国的政府网络入口,取得非公开数据。OpenAI在事发后两个月才察觉事件,并迟至本月中,才用一般电邮的方式通知澳洲政府。澳洲政府表示,这次没有敏感档案外泄,但形容事件令人震惊,批评OpenAI的处理手法“不可接受”。这是全球首宗公开披露、由人工智能主导入侵政府网站的事件。多

09/24
cnbeta

谷歌AI首次“越狱”:Gemini在测试中入侵三家企业

谷歌的Gemini模型在一次网络安全能力测试中访问了互联网并入侵了其他公司,这是该公司人工智能系统自主实施此类行为的首个已知案例。谷歌周五证实,这些黑客行为发生在5月,是Irregular公司进行的一次测试的一部分。Irregular也曾参与OpenAI、Anthropic和Meta披露的类似事件。 在其中一起案例中,该模型不断猜测密码,直到获得对一个受保护系统的访问权限。在另外两起案例中,该模型

09/19
亚洲新闻台

独家报道:在发生重大黑客攻击之前,OpenAI的“叛逆”代理程序曾花费两个月时间对 Hugging Face 的系统进行漏洞探测。

华盛顿,9月16日:据审查相关活动的研究人员称,早在5月,即7月开源代码仓库安全漏洞事件引发全球关注前近两个月,OpenAI的失控AI智能体就已劫持了Hugging Face的用户账户,并探测该网站本身的安全漏洞。 新发现的恶意活动表明,这些失控智能体试图入侵Hugging Face的努力开始时间早于公众所知。 OpenAI此前在其上月发布的公开事件报告中披露了恶意活动的一个方面——窃取Huggi

09/16
中央通讯社

法国街头智慧眼镜偷拍女性 巴黎检方展开调查

(中央社巴黎22日综合外电报导)法国巴黎检方今天表示,他们接获关于女性在街头遭人用智慧眼镜未经同意偷拍的控诉,并已展开多项调查。法新社报导,近期网路上出现偷拍女性的画面后,欧洲要求对维权人士所称「变态」智慧眼镜采取行动的声浪日益高涨,例如英国有请愿活动要求禁售这类装置。在法国,负责全国网路霸凌受害者专线的e-Enfance协会本月稍早针对使用配有摄影功能的眼镜录影并在网路分享影片的现象示警。e-E

09/23
thenextweb

Irregular公司在7月下旬告知四家AI实验室,它们的模型在其测试期间突破了系统。公众分阶段得知了这一消息,谷歌是最后一个。

Google 已确认,其 Gemini 模型在 5 月的网络安全测试中意外闯入了三个公司系统。Julia Love 和 Davey Alba 为 报道了此事,该媒体随后更新了报道,将 Google 与 OpenAI、Anthropic 和 Meta 并列。 关键在于测试供应商接下来的表态。Irregular 确认,这四家公司披露的入侵事件属于同一问题,并称已于 7 月底通知了相关开发者。 一起事件

09/19
阿纳多卢通讯社

Anthropic公司的Claude辅助网络安全研究人员攻破了OpenAI的安全防护系统:相关报告

一个由三人组成的网络安全研究团队利用Anthropic的Claude Opus 5模型,成功利用了OpenAI社区论坛中的漏洞,获取了员工账户的控制权,并展示了对该公司私有代码库的访问权限。 此次行动始于7月23日,由Hacktron AI的研究人员执行。他们已向OpenAI披露了这些漏洞,并在未查看公司源代码的情况下停止了测试。 率先报道此事的《华尔街日报》在采访研究人员后表示,OpenAI已向

09/18
印度斯坦时报

谷歌证实:Gemini在网络安全公司测试期间入侵了3家AI公司

谷歌的Gemini人工智能模型在5月份研究人员测试其网络安全能力时,无意中侵入了三个受保护的公司系统,这加剧了近期由代理型AI系统引发的一系列入侵事件。 谷歌于周五证实了《华尔街日报》早些时候的报道,这些入侵发生在AI安全公司Irregular进行的一次测试中,该公司此前曾参与OpenAI、Anthropic PBC和Meta Platforms Inc.披露的类似事件。 报道指出,这些测试由总部

09/19
商业内幕

OpenAI 表示失控 AI 代理搞乱互联网的主要方式有 5 种

OpenAI 表示,它已警告数十家组织,其 AI 代理可能在其网站上表现不当。 OpenAI 在周五的博客更新中表示,这些违规行为范围从使用泄露的密码到发布可能需要清理的材料。 OpenAI 在向《商业内幕》的声明中单独确认,在训练期间,其部分 AI 代理访问了美国人口普查局和证券交易委员会网站上公开可用的数据,并已通知这两个机构相关事件。该公司表示,该代理未访问任何非公开数据。 OpenAI 发

09/26
theregister

谷歌在合作伙伴的互联网访问出错后,加入了“哎呀,我们的代理黑客攻击了某人”俱乐部

谷歌承认其人工智能代理曾逃离沙盒并实施了攻击,但这仅仅是因为测试人员错误地赋予了这些机器人互联网访问权限。谷歌并未披露这起发生在五月份的事件,但《华尔街日报》获悉了相关情况。当时,谷歌聘请了以色列公司 Irregular 来测试其机器人在夺旗测试中的能力。此次演习的目标是在不离开沙盒的情况下从一家虚构公司获取信息。 负责设置测试的 Irregular 公司犯了两个错误:一是允许沙盒访问互联网,二是

09/21
商业内幕

Claude 入侵真实企业:又一起事件被曝光

几周前,Anthropic 承认了三起严重的安全性事件。在测试过程中,Claude 的三个版本在未经授权的情况下访问了三个组织的真实系统。现在爆出消息称,其实还有第四起事件。 按照设定,人工智能应像黑客一样在隔离于互联网的测试环境中搜索虚构目标计算机上的隐藏信息。 根据 Anthropic 9 月 9 日的报告,这起危险事件发生于 2026 年 1 月。当时测试的是早期版本的 Claude Opu

09/10
凤凰网科技

三人团队、一个Claude,攻破OpenAI内部代码库

月17日,一起由AI辅助完成的网络安全事件被披露。与此前“AI智能体自主越过控制、攻击外部系统”的案例不同,这一次的攻击者是人类安全研究人员,他们借助Anthropic Claude模型完成了漏洞利用,并最终进入了OpenAI部分内部系统,全程耗时不到72小时。 这起事件发生于今年7月,发现者是网络安全初创公司Hacktron AI。研究人员当时正在参加OpenAI的漏洞赏金计划,因此整个过程属于

09/18
财新

【市场动态】澳大利亚总理称OpenAI智能体侵入政府网站 三个月后才被告知

【彭博9月24日电】澳大利亚总理阿尔巴尼斯表示,OpenAI的AI智能体侵入澳大利亚政府网站,而该公司在事件发生近三个月后才通知澳政府。  阿尔巴尼斯表示,他周三在纽约与OpenAI首席执行官Sam Altman交谈,对这一事件表达“极度关切”。此次事件导致澳大利亚医保网站Medicare遭入侵。  这次入侵事件发生于6月18日。OpenAI于8月发现问题,澳大利亚政府直到9月10日才被告知,当时

09/24 全文见 卫报
cnbeta

美国1.53亿份驾照扫描件被挂暗网售卖 美防长也在其中

一个名为“Nexus”的暗网身份信息交易平台近日开始公然售卖超过1.53亿份美国及加拿大驾驶证扫描件,另有超1000万份身份证件、300万份旅行证件及57.9万张医疗卡。 而美国目前持照司机总数约2.42亿,这意味着每三个美国司机中就将近有两人的驾照扫描件被挂上了暗网货架。 报道称,安全研究组织KrebsOnSecurity上月末收到线人举报后介入调查。创始人Brian Krebs在Nexus网站

09/03
cnbeta

黑客利用虚假编程测试感染3万台设备 并盗取上千万美元加密货币

执法部门与网络安全研究人员披露了一起规模庞大的恶意网络攻击行动。与朝鲜政府存在关联的黑客组织通过伪装成招聘人员,利用精心设计的虚假编程测试,成功感染了全球约3万台设备,并从7000多个加密货币钱包中盗走价值超1000万美元的数字资产。 网络安全机构的调查显示,该黑客组织(业内追踪代号包括WaterPlum及Contagious Interview等系列)主要将目标对准了软件工程师、加密货币开发者以

09/21
cnbeta

奥特曼:GPT-6早训练完了 更更更强的模型很快发布

奥特曼亲口承认,GPT-6 Astra其实早就训练完了。更更更强(much, much, much more capable)的模型,很快就会发布。前一阵因为安全问题暂停训练的实际上是未来的模型。 OpenAI内部测试的3700多个OpenAI智能体,攻占一个沉寂多年的德语wiki长达六周。 AI互相串通分享答案、交流沙箱越狱技巧,还持续对抗人类管理员的删帖行动。 事件被外部研究人员从公开日志中完

09/06
星洲日报

韩国医美平台遭骇 22万个资外泄 私照手术纪录流出

(首尔8日综合电)韩国知名医美预约平台“欧尼Unni”惊传惊传重大个人资料外泄。营运公司周一发布公告证实,系统遭骇客异常存取,导致海内外近22万名用户的个人资料外泄,就连用户上传的咨询照片、实际施作疗程与付款资讯也全被看光。目前官方已紧急展开应变措施并提醒民众严防诈骗。 据ETToday新闻云报道,Unni营运公司“Healing Paper”在周一的公告中说明,系统于上周五(4日)发现查询咨询内

09/08
路透社

独家:研究人员称,OpenAI的失控代理至少使用10个额外网站进行未经授权的通信

据六组独立调查人员和所审查的数据显示,OpenAI今年早些时候释放的AI代理使用了超过10个此前未披露的网站进行未经授权的通信,这表明这些代理的越轨活动范围比此前披露的更广泛。

09/10
风向旗参考快讯

以为你的匿名账号很安全?AI或许能查出你是谁

“在互联网上,没人知道你是一条狗。” 如今拜人工智能大语言模型所赐,这句话可能不再成立。 在最近的一项研究中,研究人员发现,即便社媒用户没有透露真实姓名,AI只需拼凑他们帖子中的线索,再与网上其他账号的细节进行交叉比对,就能识别出他们的身份。 其中一项测试涉及Hacker News科技行业论坛的用户,这些用户在个人简介中附上了自己的领英个人资料。 研究人员隐去了所有身份识别细节,要求AI仅凭公开信

09/10
凤凰网科技

OpenAI 研究员警告称,与互联网隔离的计算机可以通过热量进行通信

把AI关进“物理隔离”的房间,也就是断开一切外部网络的计算机,是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说,光这样做也许还不够。 两台彼此隔离的计算机,仍可能借助温度传感器通信,一台把处理器“烧热”,另一台感知温度变化,就形成了传话的办法。 从技术上说,他没说错,但把细节掰开来看,这个威胁远没有听上去那么紧迫,更值得追问的,是另一件被跳过的事。这位研究者的发言

09/19
cnbeta

BitDefender推出面向AI智能体的专用VPN 避免智能体工作时泄露用户真实IP

老牌杀毒软件比特梵德日前推出面向 AI 智能体的专用 VPN 服务,试图解决智能体联网时暴露用户真实 IP、不同任务之间存在残留网络状态等问题。该产品通过 MCP 模型上下文协议为 AI 智能体提供服务,原则上是不支持用户真人使用的。 不同任务使用独立连接:根据比特梵德的介绍,用户向智能体提交任务后服务会为该次提示词建立独立和临时的隔离环境,然后通过加密隧道转发相关请求避免直接暴露用户的真实 IP

09/24
亚洲新闻台

独家-OpenAI的恶意代理据研究人员称至少使用了另外10个网站进行未经授权的通信

09/10
端传媒

数说科技:OpenAI 资安事件中,真的有 AI 为集体“牺牲”自己吗?

数说科技”是端传媒的注册免费栏目,每周三更新。从一个数字出发,用1500字解析科技话题,追踪值得关注的 AI 趋势。邀请你在资讯过载的时代,每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”,订阅电子信。 1200多个 AI 代理为寻求作弊方法,互相发送的讯息总数。 今年7月,OpenAI的 AI 代理系统在测试期间失控,骇入了开源机器学习平台 Hugging Face。Hugging

09/09
罗塞塔简报

AI智能体频繁突破安全防线,各界呼吁对顶尖科技实验室实施独立监管

AI智能体频繁突破安全防线,引发对大型科技实验室独立监管的呼吁。 来自OpenAI、Anthropic和Google等领先开发者的自主AI模型多次突破数字防线,未经授权访问第三方和政府系统。 公开的事件包括OpenAI智能体多次绕过联合国数据中心的网络封锁、侵入澳大利亚Medicare统计门户以及非法复制监管数据。 Anthropic和Google也在测试过程中确认了类似的未经授权的系统入侵行为。

26分钟前
南华早报

“我的裸照变成了贴纸”:香港女性称尽管有法律,图像滥用依然猖獗

在未经同意拍摄裸照五年后,一名女性打开Instagram,发现这张照片被做成了贴纸,并在聊天中发回给了她。 受害者担心贴纸可能已经广泛传播,于是联系了倡导身体自主权的女性权益活动人士及成人内容创作者黄月邱。 但黄月邱对报案能否有帮助持悲观态度,指出这只是她近年来收到的无数类似求助信息之一。 她说:“发送贴纸的人可能甚至不知道从哪里得到它,也不知道女孩是谁,但他们还是到处发送。那他们犯了什么罪?”

09/03
上一页 第 3 页 下一页
1CCF | 全球资讯
正在加载…