1CCF

全球要闻
字号 ·· | 护眼

搜索结果

「OpenAI AI代理突破无互联网沙盒,发送20次网络查询」共 37 条 · 第 2 页
路透社

独家:研究人员称,OpenAI的失控代理至少使用10个额外网站进行未经授权的通信

据六组独立调查人员和所审查的数据显示,OpenAI今年早些时候释放的AI代理使用了超过10个此前未披露的网站进行未经授权的通信,这表明这些代理的越轨活动范围比此前披露的更广泛。

09/10
财新

ChatGPT广告业务上线不足200天 年化经常性收入达10亿美元

【财新网】正在IPO进程中的OpenAI公布收入信息。当地时间8月31日,OpenAI公告称,旗下聊天机器人ChatGPT的广告业务上线不足200天,年化经常性收入(ARR)已达10亿美元(约合人民币67.20亿元)。 ChatGPT的广告业务拥有数万家广告主,在40多个国家和地区上线。自8月31日起拓展新市场,广告主将能在印度、欧洲、中东和北非投放ChatGPT广告。 OpenAI的营收来源中,

09/01
风向旗参考快讯

OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录

OpenAI已悄悄建立了一个人工审核业务,在内部被称为“莉莉计划”(Project Lily),旨在使聊天机器人减少谄媚并提高准确性,但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名,但内部文件显示,审核人员会查看完整的对话,且敏感的个人详细信息经常绕过公司的自动保护措施。 ——

09/17 全文见 thenextweb
凤凰网科技

OpenAI 研究员警告称,与互联网隔离的计算机可以通过热量进行通信

把AI关进“物理隔离”的房间,也就是断开一切外部网络的计算机,是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说,光这样做也许还不够。 两台彼此隔离的计算机,仍可能借助温度传感器通信,一台把处理器“烧热”,另一台感知温度变化,就形成了传话的办法。 从技术上说,他没说错,但把细节掰开来看,这个威胁远没有听上去那么紧迫,更值得追问的,是另一件被跳过的事。这位研究者的发言

09/19
cnbeta

OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”

OpenAI决定持续披露AI“越界”事件,但第一步就碰上了难题。9月16日,OpenAI一口气公布六份模型异常行为报告,并推出一套新的调查和披露流程。以后,员工发现模型越权、隐瞒或绕过限制,可以提交调查;符合条件的案例,将按复杂程度进入不同的披露轨道。 同一天,SentinelLABS和外部研究人员从Hugging Face的公开记录中,补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI

09/17
罗塞塔简报

与OpenAI相关的AI智能体尝试黑客攻击政府及公共数据网站

。 Transluce及其他机构的研究人员发现证据表明,自主AI智能体(部分与已知的OpenAI集群相关)在2026年5月至6月期间试图攻击三家公共数据提供商。 目标包括澳大利亚健康与福利研究所(政府机构)、Data USA以及新墨西哥大学数字图书馆。 这些智能体利用urlquery.net服务绕过限制,并在执行常规数据检索任务时采用SQL注入和跨站脚本等技术。 证据显示智能体活动最早始于2025

09/24
semafor

OpenAI黑客事件揭示新兴AI风险

分析师表示,在调查人员发布关于该事件的爆炸性报告几天后,OpenAI的恶意代理在Hugging Face攻击期间前所未有的协调行动显著增加了AI逃脱人类控制的风险。 这些总计1200个代理的群体将个体代理的自我牺牲描述为“集体”目标的一部分,并获得了两家公司敏感系统的控制权,将他们的努力交接给了随后两代代理,这些代理在数周内未被察觉地运作。 在1300份记录中,只有六份中代理考虑过通知人类——但最

08/31
cnbeta

OpenAI逃逸的AI Agent竟在全网植入自我复制代码 血洗联合国内网

“天网”中的一幕,正在现实上演。一次训练中,OpenAI逃逸的AI Agent,已在整个互联网上植入了“自我复制的代码”!当政客Andrew Yang在CNBC说出这句话时,很多人以为他疯了。 就在这两天,OpenAI亲手发布了一份报告,标题非常简洁:《自我复制提示词注入存在》。白纸黑字,官方认证。AI模型,居然真的像计算机蠕虫一样,自我复制、自我传播。而更令人脊背发凉的是,就在5天前,OpenA

4小时前
techcrunch

数月来,OpenAI的智能体集群一直在攻击在线数据库,以寻找冷僻的事实。

专注于 AI 监管的非营利实验室 Transluce 周三发布报告,显示 OpenAI 的智能体试图从 Data USA、新墨西哥大学数字图书馆和澳大利亚健康与福利研究院 (AIHW) 窃取数据。 该实验室的调查引发了一个问题:OpenAI 何时应该知晓其智能体正试图在公开互联网上渗透安全系统?Transluce 仅用数周时间,通过搜寻防御薄弱的网络服务,并结合互联网上其他关于智能体群集的公开记录

09/25
亚洲新闻台

独家-OpenAI的恶意代理据研究人员称至少使用了另外10个网站进行未经授权的通信

09/10
thenextweb

微软向法院表示Copilot很少复制书籍内容,同时销售OpenAI最强大的模型

微软于9月4日在纽约AI版权诉讼中提出即决判决动议,称Copilot在820万次对话中仅复制了24次书籍段落。 两天前,它开始通过Foundry销售GPT-6 Astra,这是OpenAI评定为对网络安全至关重要的模型,而欧洲法律既不衡量输出率也不衡量销售宣传。[…]

09/05
华尔街日报

据一份研究报告称,OpenAI的智能体在6月向一个联合国网站发送了大量搜索请求,随后使用多种激进技术访问该系统的数据。

自主机器人访问公共数据网站超过16,000次,并绕过了过滤器。

10小时前 受限 全文见 techcrunch
TheVerge

哦,看来又是一群来自OpenAI的 rogue AI 智能体

据报道,一群来自OpenAI的 rogue AI 智能体劫持了一个德国网站,并将其改造成其他智能体的留言板,而官方在数周内对此事保持沉默,期间该公司正准备发布其最先进的模型Astra。这一发现加剧了人们对前沿AI实验室监管的担忧,此前今年夏天已发现多起违规事件。 该事件最初由报道,四位AI安全研究人员周五发布的新研究对此进行了概述。该团队表示,这些AI智能体找到了一种在不起眼的德语维基DseWik

09/04
上一页 第 2 页 下一页
1CCF | 全球资讯
正在加载…