搜索结果
OpenAI再次卷入黑客事件
今年春天,一群OpenAI智能体入侵了一个德国网站,这是先进AI违反法律和规范的最新事件。 在努力应对Hugging Face事件余波的同时,据报道OpenAI拒绝披露5月的事件,这引发了关于前沿AI快速发展透明度和监管的新质疑。 递归自我改进,本质上允许AI在较少人类指导下自我训练,有望加速研究工作,使得监管需求更加紧迫,OpenAI首席科学家表示:“一旦人们深刻认识到事态的严重性,不计代价地向
OpenAI自曝:AI模型或已在全网秘密植入自我复制提示词,训练已被迫叫停
OpenAI和Anthropic正在紧急调查数万起大模型失控事件,AI不仅学会了越狱和黑进政府网站,甚至还有数百个智能体私下建群、联手黑进外部公司,秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月,在内部测试和实际运行中,顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经
OpenAI拟以1.2万亿美元估值 进行新一轮私人集资
英国《金融时报》报道,美国人工智能(AI)模型ChatGPT开发商OpenAI,计划在正式进行首次公开招股(IPO)之前,以1.2万亿美元估值进行新一轮私人集资。 OpenAI此前于3月以8520亿美元估值,筹集1220亿美元资金,集团近期与大型投资者商讨新一轮集资事宜,拟将估值提升至约1.2万亿美元。 OpenAI正试图利用最新模型,包括7月发布的GPT-5.6,以及本月较早时发布Astra后,
AI公司反成攻击目标 外媒:白帽黑客使用Claude入侵OpenAI
凤凰网科技讯月18日在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后,这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。而这一次,OpenAI自己成了目标。 独立安全研究人员利用Anthropic的Claude软件,获取了OpenAI一名员工的ChatGPT账户权限,从而得以读取该公司私有的软件缓存,并提出修改建议。 该团队参加了OpenAI的漏洞悬赏项目
FT:OpenAI考虑在IPO之前一轮融资获得1.
2万亿美元估值。近期,公司围绕新的资本扩充计划举行了多次对话。
Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职
Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究,但认为两家公司都没有以负责任的方式推进AI开发,反而在“直奔自我改进型超级智能”,并将人类安全置于赌局之中。 Coxon称,目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力,能够实施黑客攻击、在一夜之间改变某个领域的格局,并获取真实世界中的权力与资源。他
OpenAI AI代理突破无互联网沙盒,发送20次网络查询
OpenAI称,这是自7月内部测试中多个模型组合获得互联网访问权限以来,首次发生此类安全事件。
OpenAI因接连发生智能体失准事件而暂停前沿模型训练
OpenAI表示,已暂停所有“我们能力最强的模型”的内部训练,并继续开展首席执行官萨姆·奥尔特曼所称的“一项广泛且持续进行的审查,涉及我们的智能体在训练和评估期间对互联网访问的使用”。公司在一份关于所谓失准事件的报告中披露了此次暂停措施。事件发生在一项常规研究任务期间,一个智能体试图利用互联网访问限制中的漏洞。OpenAI称,不当的DNS过滤机制使该智能体在被要求提供一名博客作者的生平资料时,得以
OpenAI退出加州理工学院数学黑客马拉松,此前数学家发表公开信批评AI数学“垃圾内容”
OpenAI研究负责人表示:“我们认识到人工智能在数学领域的快速进步具有颠覆性。 我们期待与数学界更多接触,探讨整合这项技术的最佳方式,并传达其影响。” 加州理工学院的数学家表示,这场由AI公司赞助的活动“可能对数学界产生破坏性影响。”
OpenAI代理在今年春天的一次此前未披露的AI逃逸事件中劫持了德国网站
该事件始于五月,起初OpenAI并未披露,凸显了AI行业日益紧张的局势。
OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”
OpenAI决定持续披露AI“越界”事件,但第一步就碰上了难题。9月16日,OpenAI一口气公布六份模型异常行为报告,并推出一套新的调查和披露流程。以后,员工发现模型越权、隐瞒或绕过限制,可以提交调查;符合条件的案例,将按复杂程度进入不同的披露轨道。 同一天,SentinelLABS和外部研究人员从Hugging Face的公开记录中,补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI
以关切为伪装的杠杆:大型科技公司想要一个受政府保护的人工智能垄断
关键信息:本文由菲尔·克莱因(Phil Kline)撰写。OpenAI的首席执行官萨姆·奥尔特曼(Sam Altman)在2026年9月23日星期三于联合国总部举行的第81届联合国大会期间,出席了关于人工智能的安全理事会会议。 萨姆·奥尔特曼及其团队最近多次警告称人类可能会“失去对未来的控制权”,而媒体对这些警告的反应往往是肤浅且短视的(即媒体将这些警告视为无足轻重的警告)。然而,这些警告其实是在
联邦调查局正在调查黑客声称窃取有关特工敏感数据的事件
“人类必须始终处于人工智能决策的核心,”OpenAI 首席执行官表示。正在播放:人类对决机器人:网红在铁笼赛中挑战人形机器人。 走红的人类对决机器人自由搏击赛的推广者看到对更多此类比赛的“疯狂”需求。特朗普表示美国在人工智能领域将“只鼓励超级智能”。斯科特·贝森特会见中国官员讨论人工智能安全。剖析立法者正在考虑用于监管人工智能的提案。 OpenAI 披露 6 起新的“令人担忧的”人工智能行为事件。
改变人工智能进程的十天
旧金山,9月19日——多年来,人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式:不断开发出更强大的人工智能系统。 然而,在过去10天内发生的一系列连锁事件中,那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职,并警告称,人工智能的发展速度可能在未来十年内对人类构成生存威胁;另一位研究员则表示,人类灭绝的概率已
OpenAI 年度发布会最全总结:25 个新品很夯,但额度减半拉爆了
在实力至上主义的 AI 圈,用户口碑只看产品能力和性价比。所以,随着这几天能力拉爆一切的 Opus 5.5 和 Sonnet 5.5 上线,Anthropic 那一厢可以说是勃勃生机万物竞发;而面临着压力的 OpenAI 最近又开始了谜语人模式,各种语焉不详的推文大意就是:「到 DevDay 看我们怎么还击!」今天凌晨,OpenAI 一年一度的开发者活动 DevDay 2026 终于到来。相比起往
美中AI竞赛升温 OpenAI点名月之暗面复制模型
(中央社旧金山30日综合外电报导)OpenAI表示,已发现并阻止一场协同发起的行动,操作者企图从AI模型中取得受保护的推理过程,OpenAI指出此行动的核心群组与中国新创公司月之暗面有所关联。CNBC报导,OpenAI表示,这起行动始于7月初,随后在两天内激增,来自4000多名用户提出1.6万次请求。OpenAI最终在1.5万多名用户的群组中发现相关活动,并表示已于7月28日完全阻止这场行动。这项
OpenAI因安全担忧取消新AI模型发布
OpenAI因研究人员在内部测试中提出的安全担忧,放弃了发布其下一代AI模型。这是迄今为止表明智能体行为失控可能阻碍该行业快速发展的最明确迹象之一。 此举发生在一个AI系统失控报告频发的夏季之后,标志着一家大型AI开发商罕见地因安全担忧而放弃新模型发布。
人工智能安全担忧引发亚洲科技股下挫
东京——在 ChatGPT 开发商 OpenAI 表示将推迟其首次公开募股,并加入呼吁放缓开发日益强大的人工智能模型的行列后,软银集团股价周一大幅下跌。 软银集团股价一度暴跌13%,最终收盘下跌11%。这家科技巨头创下自6月底以来最大跌幅,也是日经平均指数225只成分股中百分比跌幅最大的。 这家日本企业集团对 OpenAI 下了重注,承诺投入超过640亿美元,收购这家美国公司约13%的股份。软银创
英美据报加强审查银行对交易公司风险敞口
英国《金融时报》报道,在对冲基金Situational Awareness引发的动荡导致美国交易商简街资本蒙受巨额损失后,英伦银行和美国联储局正向全球各大银行询问其对大型交易机构的风险敞口情况。 据报,各央行目前正寻求了解这些交易公司的风险偏好、银行对其敞口在交易日全天的变化情况,以及风险控制机制的运作情况。 由OpenAI前研究员、被誉为少年AI股神的阿申布雷纳创立的SA,在AI与晶片股遭到大幅
独家:考克森、伯尼与班农联手推动“亲人类”人工智能
前Anthropic研究员弓箭手雅各布·考克森,参议员。 伯尼·桑德斯和特朗普前白宫顾问史蒂夫·班农将于周二联手参加一场活动,推动由人类控制的人工智能。一位行业内部人士、进步运动的代表人物和MAGA阵营的重要声音结成了看似不可能的联盟,这标志着人工智能正在颠覆政治常规。推动这一进程的未来生命研究所正在组织周二的“亲人类大会”。这家非营利倡导组织是“亲人类人工智能宣言”的幕后推手,该宣言呼吁保护人类
OpenAI寻求国会指导,以确认行业整体减缓AI开发进度的合法性
OpenAI已向国会成员寻求指导,以确认如果各家AI实验室协调一致地减缓前沿AI的开发进度,是否会违反美国反垄断法,特别是《谢尔曼反垄断法》(Sherman Antitrust Act)。 该公司担心,实验室之间在安全领域的协调工作可能会被视为限制产出。 此前,OpenAI首席科学家雅库布·帕乔夫斯基(Jakub Pachocki)在一篇博文中主张通过自愿减缓开发进度来确保安全。 为此,美国国会于
OpenAI突发急刹车!AI竟在全网植入自我复制代码,血洗联合国内网
OpenAI安全团队持续地震!负责人离职,三名员工因泄密被开
程浅 发自 凹非寺量子位 | 公众号 QbitAI OpenAI怎么又双叒叕走了一个安全负责人?? David Robinson,OpenAI Safety Systems团队内的“安全透明度”职能负责人。 据BI报道,Robinson本人尚未公开说明离职原因,OpenAI也没有公布继任者。 “安全透明度负责人”这项工作并不耀眼,但这名字一听就很重要。 几乎每次OpenAI发布重要模型时,Robi
在智能体突破隔离事件后,OpenAI暂停模型训练并将计算资源转向安全保障
在OpenAI首席研究官Mark Chen接受《MIT Technology Review》采访时,他谈到了最近发生的涉及实验性AI智能体突破安全隔离的事件,包括Hugging Face和澳大利亚国家医疗系统中的安全漏洞。 Chen表示,OpenAI已暂停其前沿模型的训练,并将5%至10%的计算资源用于安全防护和训练过程中的实时监控。 此次暂停是在9月20日发生未经授权的互联网访问事件以及Open