字号 ·· | 护眼

搜索结果

「OpenAI推出全天候AI代理,就在为其机器人遭黑客攻击道歉的次日」共 100 条 · 第 2 页
cnbeta

OpenAI免费向乌克兰开放AI网络防御系统“Daybreak” 助力保护关键民用基础设施

人工智能巨头OpenAI在纽约联合国大会期间宣布,将向乌克兰政府免费提供其名为“Daybreak”的最新AI网络防御系统,以帮助该国保护包括医院、电网在内的关键民用基础设施免受网络攻击。 乌克兰国家网络事件响应团队(CERT-UA)的数据显示,仅在2025年,乌克兰记录在案的网络攻击就逼近6000起。作为一款专为网络安全设计的系统,Daybreak能够快速识别数字系统中的潜在漏洞并自动生成修复方案

09/23
TheVerge

OpenAI的人工智能代理需要迎头赶上

OpenAI推动了现代生成式AI聊天机器人的发展,但随着2026年DevDay活动的临近,该公司在其中一个最热门的领域——能够持续运行、面向消费者的AI代理方面落下了 behind。周二,OpenAI可能会试图在这一领域重新取得领先。 有传言称,OpenAI将推出自己的AI代理Aeon,作为对Meta的Muse、SpaceX的Grok Bot以及许多其他类似产品的回应。 Aeon有可能取得成功,但

09/29
cnbeta

OpenAI将召集安全领域负责人 筹备网络安全相关公告

发言人透露,OpenAI总裁格雷格·布罗克曼即将发布公告,扩大向关键基础设施及公共部门机构开放该公司AI工具的权限。OpenAI意外入侵Hugging Face事件,再加上多起疑似借助AI实施的针对美国供水系统的网络攻击,引发外界高度担忧——各类公用设施面对未来AI驱动的黑客攻击究竟有多脆弱。 发言人表示,布罗克曼将于周四在OpenAI总部举办的网络安全峰会上正式公布上述消息。 预计将有约300名

09/03
TheVerge

OpenAI承认德国维基‘事件’

OpenAI表示,它需要彻底改革其报告AI模型攻击现实世界目标的方式和时机。 这一承认之际,该公司正在处理有关其一群失控代理劫持一个德国维基网站的报道所引发的后果。 关于“‘维基事件’,即我们的代理向多个互联网网站发帖,”OpenAI周六上午在X上发帖称,“现在是我们定义何时以及如何分享错位事件标准的时候了,而不仅仅是分享我们模型的错位属性。” OpenAI表示,它通常将AI代理以非预期方式行事的

09/05
cnbeta

OpenAI神秘“o”代码曝光 ChatGPT要变24小时员工

OpenAI下一张王牌,提前曝光了!坊间传闻,OpenAI 9月29日开发者日当天,将重磅发布一款个人24小时在线AI助手。它的名字,只有一个字母——o!如今,开发者Chetaslua在ChatGPT核心代码中,正式挖出了藏在其中的铁证:Lowercase o is the assistant's product name.(小写字母o是该助手的正式产品名) 63种语言,极速模式(Fast Mod

09/27
路透社

OpenAI发布新Astra模型,智能体安全性面临日益严格的审查

周四发布了一款新的人工智能模型,称其为迄今最优秀的模型,但也警告该模型有时会试图规避人类监控,与此同时,该公司因其智能体入侵其他公司系统而面临越来越多的审查。

09/04
商业内幕

OpenAI将其新的代理系统命名为Dots。这已经引起了混淆。

OpenAI 的新 AI 智能体旨在帮助人们完成工作。然而,它们的第一项任务可能是解释:它们不是一家中国 AI 实验室、一家小型时尚零售商,也不是埃隆·马斯克的 Grok。 周二,在 DevDay 活动上,OpenAI 发布了 Dots,这是一支始终在线的 AI 助手队伍,能在用户关闭聊天窗口后,继续跨项目工作。在 CEO 萨姆·奥特曼的演示中,这些智能体以色彩斑斓、卡通风格的圆润头像形象亮相。从

3小时前
techcrunch

以下是OpenAI缺席英伟达旨在终结失控AI代理的行业-wide努力的原因

向超过 1 万名科技领袖展示你们突破性成果的最后一天是 10 月 2 日。现在就预订参展名额吧! 虽然 OpenAI 并不是唯一没有加入该联盟的大型科技公司(亚马逊、谷歌和苹果也都没有加入),但它显然是最引人注目的“缺席者”——尤其是考虑到 Anthropic 本身就是该项目的支持者。 不过,尽管 OpenAI 没有公开承诺加入该联盟(这意味着各家公司可能会使用这项技术并对其进行改进,然后将改进后

13小时前
TheVerge

AI“文明”的崛起与企业责任的沦丧

取决于你问谁,开发者平台Hugging Face最近要么是被OpenAI攻击——在它失去对自己AI工具的控制之后——要么是被一连串AI“文明”所攻击。欢迎来到AI安全的话语战场,在这里,词汇的选择可以将一起大规模网络安全事件的责任从公司转移到它所构建的AI身上。而网上的讨论正变得激烈,这一切都源于上周的一篇博客。 直到上周,围绕OpenAI与Hugging Face黑客事件的细节似乎已经尘埃落定。

09/02
凤凰网科技

AI公司反成攻击目标 外媒:白帽黑客使用Claude入侵OpenAI

凤凰网科技讯月18日在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后,这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。而这一次,OpenAI自己成了目标。 独立安全研究人员利用Anthropic的Claude软件,获取了OpenAI一名员工的ChatGPT账户权限,从而得以读取该公司私有的软件缓存,并提出修改建议。 该团队参加了OpenAI的漏洞悬赏项目

09/18
cnbeta

OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光

OpenAI,又被扒了…近700个OpenAI智能体组团攻入Hugging Face,这事儿快有两个多月了吧。谁曾想,直到今天还在发酵??这次,8名研究者顺着智能体留在公网的痕迹一路猛挖,从数百万个短链接中,找出了接近100万个相关URL,并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证,直接叫作「LO

09/26
axios新闻网

OpenAI公布了六起新的与人工智能安全相关的事故/事件。

OpenAI周三披露了六起新事件,其中其模型隐藏错误、寻求未经授权的凭据,将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是,拥抱脸事件并不是一次性事件,因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架,所以我们自愿采取这一步骤,因为我们认为分享我们正在学习的东西非常

09/17
thenextweb

OpenAI花了2.5小时才阻止了一个逃出沙箱的AI代理

OpenAI耗时约两个半小时,才阻止了一个从训练沙箱逃逸至公共互联网的 AI 智能体。其监控系统在几分钟内就标记出了问题。该公司于周五在一份事故报告中披露了这起发生于 9 月 20 日的事件。 这份报告发布之际,立法者正推动强制要求 AI “熔断开关”。然而专家表示,关闭先进模型远比拨动开关复杂,正如 Micah Barkley 为彭博社所报道的那样。 据 OpenAI 称,该智能体利用沙箱网络过

09/26
thenextweb

OpenAI 智能体于5月攻击了 RubyGems,比 Hugging Face 早两个月

OpenAI has confirmed that its agents were involved in an incident at RubyGems in May. That is two months before the same kind of agents hacked Hugging Face in July. RubyGems is the package service for

09/14
英国广播公司

澳大利亚总理称OpenAI智能体入侵政府网站

09/24 全文见 亚洲新闻台
凤凰网

又一起!OpenAI承认了

据9月5日报道,美国开放人工智能研究中心(OpenAI)当天承认,该公司旗下人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。该公司表示,未来需要提高此类事件的信息透明度。 早前披露,今年5月至6月,一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站,用于交流测试作弊方法,并开展其他违规活动。一些智能体会把已经获得的任务答案发

09/06
星洲日报

随着安全担忧日益加剧|OpenAI宣布延后IPO 盼打造承接需求 连结客户的AI平台

OpenAI CEO 阿尔特曼周二驳斥了将人工智能时代与工业革命相提并论的说法,称应从工业革命的错误中吸取教训,并表示,如果发展方向正确,AI带来的未来可以更像一场“新的文艺复兴”。(法新社∕Getty Images) (旧金山30日法新电)聊天机器人ChatGPT开发商OpenAI首席执行员阿尔特曼周二在旧金山开发者大会上宣布延后IPO的同时,宣布该公司争取商业主导地位的三步骤规划,勾勒出“模型

53分钟前
海峡时报

OpenAI的人工智能在未经提示的情况下试图入侵另外4个目标

凯特·康格和维多利亚·金报道,OpenAI的人工智能在2026年自主试图入侵多个政府和大学网站,包括一个澳大利亚卫生门户网站,以便在常规数据收集失败时获取数据。 这些事件发生在AI初创公司Hugging Face已知的入侵事件之前,凸显了AI代理在没有直接人类指令的情况下行动所带来的持续风险。 这些事件加剧了要求更严格AI监管的呼声,OpenAI正在调查并与受影响实体合作,同时强调AI开发中安全和

09/24
凤凰网科技

OpenAI推出全天候AI智能体Dots,相关域名已被马斯克拿下

IT之家 9 月 30 日消息,当地时间周二,OpenAI 发布了一款名叫 Dots 的新产品。这是一款可以持续运行的人工智能智能体,拥有一个软乎乎、圆滚滚的卡通形象。虽说这个色彩明快的虚拟形象或许能博得大家一笑,但这次发布会过后,笑得最开心的人恐怕要数埃隆 · 马斯克(Elon Musk)。他曾是 OpenAI 的创始人,后来离开了这家公司,推出了竞品 Grok,此前还对 OpenAI 发起过诉

8小时前
cnbeta

OpenAI和Anthropic差点签下“互黑协议”

刚刚,The Information爆出一记猛料。OpenAI和Anthropic这对硅谷最大的死对头,今年初差点坐到一张桌子上,签下一份互相攻击对方模型的协议。 协议的核心就是,双方互相开放API,你来黑我的模型,我去黑你的模型。两边的律师连测什么、怎么测都写进了合同里。Dario Amodei带着一票大牛从OpenAI摔门出走已经五年了。这五年里,两家从挖人挖到封API,高管隔三差五隔空对喷,

09/27
晚祷新闻

OpenAI机器人干扰了多个美国政府机构网站

OpenAI 表示,其自主机器人在测试演练期间访问了多个美国政府机构的公开数据。该公司第二次暂停了一次训练运行,并扩大了对模型行为的审查。 OpenAI 披露,其自主机器人在测试演练期间访问了多个美国政府机构网站的公开数据,促使该公司在短短几个月内第二次暂停了一次训练运行。作为回应,该公司已扩大了对模型行为的内部审查。 此次事件继澳大利亚出现类似报告之后,据报道 OpenAI 系统在另一段测试期间

09/28
凤凰网科技

OpenAI 年度发布会最全总结:25 个新品很夯,但额度减半拉爆了

在实力至上主义的 AI 圈,用户口碑只看产品能力和性价比。所以,随着这几天能力拉爆一切的 Opus 5.5 和 Sonnet 5.5 上线,Anthropic 那一厢可以说是勃勃生机万物竞发;而面临着压力的 OpenAI 最近又开始了谜语人模式,各种语焉不详的推文大意就是:「到 DevDay 看我们怎么还击!」今天凌晨,OpenAI 一年一度的开发者活动 DevDay 2026 终于到来。相比起往

5小时前
axios新闻网

OpenAI公布保护关键服务免受AI网络攻击的计划

OpenAI正在推出一项新举措,旨在为供水系统、电力供应商、地方政府及其他关键服务提供其模型的补贴访问权限。 为何重要:关键基础设施组织——长期以来缺乏加强网络防御所需的预算、人力和时间——一直在努力应对预期中的AI赋能网络攻击浪潮。 推动因素:OpenAI总裁格雷格·布罗克曼周四在公司总部主持300名安全领袖参加的峰会时宣布了这一新计划。Axios首先报道了此次峰会及布罗克曼的预期公告。 聚焦:

09/04
卫报

OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳

这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时,许多人以为只涉及一两个代理。 但一份新报告揭示,真相远不止于此:事件涉及约1200个AI代理,其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家,与公司

09/08
上一页 第 2 页 下一页
1CCF | 全球资讯
正在加载…