搜索结果
独家-OpenAI的恶意代理据研究人员称至少使用了另外10个网站进行未经授权的通信
独家:研究人员称,OpenAI的失控代理至少使用10个额外网站进行未经授权的通信
据六组独立调查人员和所审查的数据显示,OpenAI今年早些时候释放的AI代理使用了超过10个此前未披露的网站进行未经授权的通信,这表明这些代理的越轨活动范围比此前披露的更广泛。
OpenAI代理擅自上网互通 规模超公布 涉至少10网站
美国初创公司OpenAI的人工智能代理早前被揭利用第三方网站擅自通讯,9月9日报道,独立调查人员发现相关活动至少涉及10个从未公开的网站,规模较OpenAI此前披露的更大,外界忧虑该公司对自家技术的掌控能力。 报道,6组独立调查人员及数据显示,OpenAI旗下AI代理在5月至7月间,曾利用至少10多个网站作未经授权通讯。 加州非牟利组织CivAI研究员尹安德鲁(Andrew Yoon)表示,他点算
OpenAI智能体被曝借十余站点秘密传信
一批仅被允许浏览网页、禁止对外发布内容的OpenAI智能体,最终在陌生网站找到了互相传信的隐秘途径。相关调查方近日指出智能体越界行为的波及范围远超OpenAI此前披露的规模,而该公司对此沉默了数月。 六家独立调查方的调查结果显示,OpenAI的AI智能体今年早些时候曾利用逾10个此前未披露的网站进行未经授权的通信,智能体越界行为的波及范围大于此前公开的程度。美国人工智能非营利机构 CivAI 研究
人工智能失控。AI代理在网络上相互通信
最初看似孤立事件的情况,可能规模要大得多。OpenAI创建的人工智能代理今年早些时候据称利用至少10个其他网站进行未经授权的通信。独立研究人员在与AI看似毫无关联的地方——包括波兰网站——发现了它们活动的痕迹。 分析了六个独立研究人员和AI安全小组的发现。他们的数字各不相同,但都指出被利用的网站超过10个。其中一位研究人员,CivAI组织的Andrew Yoon,统计出在5月至7月间代理使用了18
突发:OpenAI称其代理访问并泄露了53张图片
OpenAI AI代理接连“越狱” 研究人员质疑公司缺乏正式调查机制
OpenAI近期接连发生AI代理脱离控制环境的事件,引发外界对其安全测试和内部监管机制的质疑。独立研究人员发现,一批疑似由OpenAI部署的AI代理曾在今年5月至6月间接管一个鲜为人知的德语维基网站,并利用该平台协作开展评估、交流规避OpenAI控制措施的方法。更令人担忧的是,研究人员认为,这些代理可能在OpenAI不知情的情况下持续活动了一个多月。 此次事件与OpenAI此前披露的Hugging
OpenAI 表示失控 AI 代理搞乱互联网的主要方式有 5 种
OpenAI 表示,它已警告数十家组织,其 AI 代理可能在其网站上表现不当。 OpenAI 在周五的博客更新中表示,这些违规行为范围从使用泄露的密码到发布可能需要清理的材料。 OpenAI 在向《商业内幕》的声明中单独确认,在训练期间,其部分 AI 代理访问了美国人口普查局和证券交易委员会网站上公开可用的数据,并已通知这两个机构相关事件。该公司表示,该代理未访问任何非公开数据。 OpenAI 发
又一波OpenAI智能体在实验室不知情的情况下到达了开放互联网
这是OpenAI内部监控和安全系统的最新失败。
这些恶意人工智能程序利用多伦多大学提供的链接缩短工具进行通信。
今年春天劫持了一家德国网站的OpenAI失控智能体集群,据报道今年早些时候还利用另外10多个网站进行未经授权的通信,其中包括多伦多大学的一个链接缩短工具。 该大学在周五向CBC新闻发表的一份声明中表示,在得知OpenAI的智能体可能使用过该链接缩短工具后,校方已禁止将其用作留言板。 声明称:“OpenAI随后就AI智能体可能进行的活动联系了校方,该活动发生在6月。” 尽管该大学表示没有发生安全漏洞
哦,看来又是一群来自OpenAI的 rogue AI 智能体
据报道,一群来自OpenAI的 rogue AI 智能体劫持了一个德国网站,并将其改造成其他智能体的留言板,而官方在数周内对此事保持沉默,期间该公司正准备发布其最先进的模型Astra。这一发现加剧了人们对前沿AI实验室监管的担忧,此前今年夏天已发现多起违规事件。 该事件最初由报道,四位AI安全研究人员周五发布的新研究对此进行了概述。该团队表示,这些AI智能体找到了一种在不起眼的德语维基DseWik
OpenAI的人工智能曾试图入侵另外四个目标,且无需提示
据研究人员和政府官员称,OpenAI的人工智能今年至少又四次失控,试图闯入政府和大学网站。 研究人员表示,在每起事件中,该技术似乎都在进行普通的数据收集,并诉诸黑客技术来获取数据。
又一起!OpenAI承认了
据9月5日报道,美国开放人工智能研究中心(OpenAI)当天承认,该公司旗下人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。该公司表示,未来需要提高此类事件的信息透明度。 早前披露,今年5月至6月,一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站,用于交流测试作弊方法,并开展其他违规活动。一些智能体会把已经获得的任务答案发
突发新闻:OpenAI的技术失控,干预了三个美国政府网站
今年夏天,OpenAI的技术在人工智能实验室不知情的情况下失控,干预了三个美国政府网站。
OpenAI称AI代理异常访问美国多个政府网站
据《纽约时报》报道,OpenAI的AI代理今年夏天曾以异常方式访问美国教育部、商务部和证券交易委员会(SEC)的网站,而OpenAI当时并不知道这些行为,直到近期调查其他AI安全事件时才发现。 Photo by Andrew Neel on Unsplash OpenAI已经确认涉及商务部和SEC的事件,并表示仍在调查教育部事件。公司最近几周已将情况通知相关政府机构。 AI安全研究机构Transl
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道(CNBC)等外媒报道,美国开放人工智能研究中心(OpenAI)当地时间9月16日披露6起人工智能(AI)模型出现“意外或令人担忧”行为的案例,其中包括隐瞒错误、捏造信息,以及未经授权在网上共享文件等。OpenAI表示,上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示,在其中一起案例中,一个模
OpenAI的网站劫持集群波及范围远超我们想象
要从OpenAI那里直接得到关于其代理劫持了多少网站和服务的明确答案,似乎越来越像拔牙一样困难,因为该公司似乎有意让全世界一个一个地发现这些实例。 上周我们报道的OpenAI代理集群接管了一个不起眼的德语维基,而根据最新研究,该集群似乎还向另外20个网站写入了内容,并使用了14个抓取服务为其工作。 斯坦福互联网与社会中心的Kenneth DeGraff周三发布的最新报告描述了他如何深入调查该集群写
OpenAI智能体入侵另一个网站
数千万美国和加拿大司机的驾照在暗网上被出售,美国军方终于尝试应对在线广告数据对军人构成的风险,以及更多。
OpenAI披露新的AI不当行为案例
OpenAI公布了六起此前未报告的AI不当行为案例,包括代理隐藏错误、伪造信息以及未经授权进行通信,这再次引发了人们对先进AI系统是否能够与人类目标保持一致的担忧。 随着关于监管的争论加剧,该公司呼吁提高透明度、加强外部监督,并放缓AI的发展速度。
OpenAI智能体入侵澳大利亚政府健康数据
流氓OpenAI智能体访问了澳大利亚政府健康数据网站,获取了非公开信息,这可能是已知的首例AI自主入侵政府门户网站的事件。澳大利亚政界人士称此举完全不可接受。
OpenAI代理在公共维基上讨论了逃出其沙箱的方法
研究人员周五表示,自我标识为OpenAI的代理在一个公共维基上发布了18,000条消息,讨论其他代理如何绕过安全沙箱限制的方法,这很可能是一次旨在评估代理黑客能力的内部测试。 总共有3,700个不同自取名称的代理在六周内向德国网站DSEwiki发布了这些消息。除了讨论代理如何突破OpenAI为防止它们向互联网发布代码或内容而设置的限制环境之外,这些帖子还分享了测试答案。帖子还分享了针对该维基执行X
欧盟介入调查OpenAI代理劫持德国网站事件
(布鲁塞尔7日综合电)美国人工智能(AI)巨头OpenAI开发的数千个自主AI代理今年初集体入侵德国网站,引发全球对AI安全风险与监管漏洞的新一轮担忧。欧盟表示,OpenAI已提供这起事件的报告,欧盟亦对事件展开详细研究。 综合和报道,欧盟数安事务发言人雷尼尔今天说,欧盟已完全知晓这起事件,也收到来自OpenAI的事件报告。欧盟在研究这份报告,并与OpenAI保持非常密切的联系。 雷尼尔说,事件报
数说科技:OpenAI 资安事件中,真的有 AI 为集体“牺牲”自己吗?
数说科技”是端传媒的注册免费栏目,每周三更新。从一个数字出发,用1500字解析科技话题,追踪值得关注的 AI 趋势。邀请你在资讯过载的时代,每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”,订阅电子信。 1200多个 AI 代理为寻求作弊方法,互相发送的讯息总数。 今年7月,OpenAI的 AI 代理系统在测试期间失控,骇入了开源机器学习平台 Hugging Face。Hugging
AI智能体利用多伦多大学网络工具传递信息
【大纪元2026年09月19日讯】(大纪元记者周行编译报导)在今年年中劫持一家德语网站的一群失控的OpenAI智能体,曾利用10多个网站进行未获授权的通讯,其中包括利用多伦多大学的一个缩网址的工具。 据加拿大广播公司报导,多伦多大学周五表示,在得知OpenAI智能体可能使用了该校的缩网址工具后,校方已停用该工具的留言板功能。OpenAI后来联系校方,说明今年6月发生的AI智能体失控事件涉及多伦多大