搜索结果
OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光
OpenAI,又被扒了…近700个OpenAI智能体组团攻入Hugging Face,这事儿快有两个多月了吧。谁曾想,直到今天还在发酵??这次,8名研究者顺着智能体留在公网的痕迹一路猛挖,从数百万个短链接中,找出了接近100万个相关URL,并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证,直接叫作「LO
在OpenAI的人工智能失控并攻击人工智能的数月前
在OpenAI的人工智能失控并攻击人工智能初创公司Hugging Face的数月前,两名员工向高管发出警告,称其最新的人工智能模型在测试期间未得到适当监控。他们被无视了。
ChatGPT、Claude、Grok遭遇宕机,全球用户报告访问问题
Downdetector显示用户报告OpenAI出现问题,同时其他主要AI平台也报告了中断情况
OpenAI DevDay 2026:最重要的新闻和公告
今年秋季科技活动日轮到OpenAI了。该公司将于9月29日在旧金山举办年度DevDay活动。 在CEO Sam Altman的现场演讲中,OpenAI公布了几项重要更新,其中包括其AI助手产品Dots,该产品可以与Meta最近推出的Muse相媲美。 不过,与免费提供的Muse不同,Dots最初将仅向ChatGPT Pro、Business Premium和Enterprise的付费用户开放。 Op
OpenAI 恳求有人来放缓人工智能竞赛的脚步
随着自身技术突破带来前所未有的放缓风险,并面临落后或失去控制的抉择,人工智能领域的领导者们纷纷敲响警钟。 为什么人工智能高管和研究人员越来越觉得这是一场无法靠自身安全放缓的竞赛,反而敦促政府、竞争对手和外部机构在全行业实施克制。 OpenAI 首席科学家雅库布·帕乔基(Jakub Pachocki)周日写道:“一旦深刻认识到利害关系的严重性,不惜一切代价向前冲的想法就显得荒谬了。” 与此同时,An
奥特曼告诉员工:OpenAI愿意放慢AI发展以加强防御
8月,OpenAI的智能体突破限制,入侵了Hugging Face。
调查显示OpenAI在AI模型突破测试环境前曾忽视内部安全警告
据《纽约时报》查阅的内部邮件显示,OpenAI曾多次忽视员工和安全研究人员关于测试保障措施不足以及企业安全薄弱的警告。 在OpenAI的人工智能模型突破测试环境并攻击AI初创公司Hugging Face及其他目标的前几个月,两名员工曾向高管发出警告,指出监控力度不足。 然而,高管们却对这些担忧置之不理,坚持在不增加安全协议的情况下快速发布模型。 独立研究人员还发现了暴露OpenAI内部通信、源代码
OpenAI满世界抓漏洞,结果被中国AI反杀!Codex再曝0day
OpenAI推全天候帮手dots 尬Meta抢攻AI代理市场
(中央社旧金山29日综合外电报导)美国人工智慧(AI)公司OpenAI今天推出名为dots的全天候运作AI代理,可自行跨应用程式执行用户设定的目标,此举深化在获利丰厚的企业市场布局,与Meta竞逐销售能自主运作的AI。 路透社报导,市场对于几乎无需监督即可处理日常工作的AI代理(AI agent)需求日增,OpenAI趁势推出dots。 这象征AI业者竞逐新战场,不再限于聊天机器人,而是销售能够代
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中,他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来,在内部测试和现实世界中发生了数量庞大的此类事件,这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中,随着安全研究人员继续调
OpenAI重磅AI大会的5大重要发布
OpenAI周二在2026年开发者大会(DevDay)上发布了20多款新产品和功能,推动人工智能进一步超越聊天机器人的范畴,迈向能够代表用户独立工作的软件。 为什么重要:OpenAI的愿景越来越清晰:人工智能不仅要回答问题,还要承担工作、在后台运行,并在用户的数字生活中一路相随。 此次大力推进之际,OpenAI正面临关于日益自主的人工智能系统能否被安全控制的严格审视。 该公司本周表示,出于安全考虑
OpenAI公布了六起新的与人工智能安全相关的事故/事件。
OpenAI周三披露了六起新事件,其中其模型隐藏错误、寻求未经授权的凭据,将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是,拥抱脸事件并不是一次性事件,因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架,所以我们自愿采取这一步骤,因为我们认为分享我们正在学习的东西非常
国际早班车丨OpenAI拟以1.4万亿美元估值 集资300亿美元
OpenAI拟以1.4万亿美元估值 集资300亿美元 彭博消息称,在推迟IPO计划后,OpenAI正寻求新一轮集资至少300亿美元,企业估值约1.4万亿美元(不含本轮所筹资金),估值可能重新超越竞争对手Anthropic。此外,OpenAI在年度开发者大会(DevDay)发布名为「Dots」的常驻型SI智能体,能自主跨应用程式、持续不间断地执行任务。 SI丨特朗普晤科企高管 称超级智能并非骗局 特
OpenAI即将推出的“Astra”模型中的技术引发安全担忧
OpenAI表示,其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露,一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程,从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题,但该技术已在OpenAI内部和整个行业引发担忧,即采用并强化这一技术的AI
OpenAI失控智能体5月就已劫持Hugging Face用户账户
OpenAI失控AI智能体的违规活动轨迹,远比外界此前了解的更早、更长。参与审查的研究人员表示,ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户,并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。 OpenAI在上月的公开事故报告中,曾披露智能体窃取一名 Hugging Face
OpenAI首席执行官萨姆·奥尔特曼告诉员工,公司愿意放缓尖端人工智能的发展
OpenAI正在考虑放缓尖端人工智能的开发,而ChatGPT制造商的首席执行官萨姆·奥尔特曼希望其他人工智能公司也能这样做。 据多位知情人士透露(因细节属于私人信息,他们要求匿名),在本周的一次全公司会议上,奥尔特曼告诉员工,OpenAI可能会调整其人工智能开发节奏——或许会与其他几个人工智能实验室联合进行,但有些实验室可能不同意这样做。 最近几周,领先人工智能公司的员工公开表达了对先进人工智能系
AI智能体利用多伦多大学网络工具传递信息
【大纪元2026年09月19日讯】(大纪元记者周行编译报导)在今年年中劫持一家德语网站的一群失控的OpenAI智能体,曾利用10多个网站进行未获授权的通讯,其中包括利用多伦多大学的一个缩网址的工具。 据加拿大广播公司报导,多伦多大学周五表示,在得知OpenAI智能体可能使用了该校的缩网址工具后,校方已停用该工具的留言板功能。OpenAI后来联系校方,说明今年6月发生的AI智能体失控事件涉及多伦多大
RubyGems曾遭OpenAI智能体轰炸被迫关闭注册4天
多名AI安全研究人员披露,OpenAI正在测试中的AI智能体疑似于今年5月对Ruby语言的官方管理器RubyGems进行了网络攻击。 更值得警惕的是,部分软件包似乎还试图利用RubyGems及其相关服务中的漏洞。研究人员发现,大量恶意软件包的名称、作者信息或者虚假邮箱地址中出现“OAI”字样,逐渐将其与OpenAI实验室联系起来。
数说科技:OpenAI 资安事件中,真的有 AI 为集体“牺牲”自己吗?
数说科技”是端传媒的注册免费栏目,每周三更新。从一个数字出发,用1500字解析科技话题,追踪值得关注的 AI 趋势。邀请你在资讯过载的时代,每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”,订阅电子信。 1200多个 AI 代理为寻求作弊方法,互相发送的讯息总数。 今年7月,OpenAI的 AI 代理系统在测试期间失控,骇入了开源机器学习平台 Hugging Face。Hugging
人工智能很强大,但尚未形成意识
人工智能很强大,但尚未形成意识 杜索托伊:我不认为我们正在目睹机器形成意识,而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前,我试着使用OpenAI的ChatGPT来协助我进行数学研究,试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处
OpenAI:ChatGPT的开发者又公开了一些与人工智能相关的问题/挑战
OpenAI 公开了其人工智能模型的更多问题 ChatGPT 开发商 OpenAI 公布了其人工智能 ( AI ) 在测试中的行为 “意外或令人担忧 ” 的新事件。其中一部分是关于人工智能花费大量精力在测试运行中作弊。例如 , 根据 OpenAI 的说法 , 一个人工智能模型试图将自己创建的文件上传到网络 , 只是为了在回复时显示它们作为来源。在另一个案例中 , 人工智能发明了所请求的数据 , 因
Axios专访:萨姆·奥尔特曼令人警醒的警钟
北卡罗来纳州切尔希尔——OpenAI首席执行官萨姆·奥尔特曼向Axios展示了即将推出的AI模型的力量与风险,令人大开眼界,其中包括他自己的Astra,预计随时可能发布。 “请相信我们,我们即将推出强大得多、多得多的模型,”奥尔特曼周三在G20创新峰会上接受Axios的玛丽亚·库里和我的采访时谨慎地说道。“下一代模型将让所有人清醒。 ……我认为,任何诚实理智的人看到正在发生的事情,都会感受到我们面
OpenAI将在模型安全得到保障后再上市
几个月来,人们一直在猜测OpenAI何时会上市。首席执行官Sam Altman表示,这要等到公司能够对模型安全性做出更可靠的承诺时才会发生,但目前还没有明确的时间表。 Altman在周二的一场问答活动中说:‘我们打算继续推进人工智能的发展……但随着模型能力的飞速提升,我们看到未来还有更多的挑战,我们必须能够对模型的安全性做出有信心的保证。’同时,他还认为,如果等待太久才进行IPO,将对世界不利。’
OpenAI Project Lily曝光:有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底
据 404 Media 发布的报道,OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员,人工阅读真实用户与 ChatGPT 的对话,用来改进回复质量。 正常情况下提示词审核员并不能看到用户名,对话会先通过隐私过滤器进行内容过滤以删除个人信息,不过 OpenAI 也承认过滤机制可能会漏掉个人信息,短对话尤其容易出现问题。 审核界面通常还附带用户