字号 ·· | 护眼

搜索结果

「萨姆·奥特曼表示,OpenAI现在有了一位AI研究实习生。」共 100 条 · 第 3 页
𝕏 @spectatorindex

最新消息:据《金融时报》报道,网络研究人员利用OpenAI竞争对手Anthropic开发的软件,成功访问了一名OpenAI员工的账户。

09/18 全文见 cnbeta
明镜周刊

人工智能:OpenAI在新事件后暂停人工智能训练

人工智能的危险 OpenAI暂停训练其最强大的AI模型 公司OpenAI在发生新事件后暂停了其最强大AI模型的训练。在该事件中,一个AI模型在测试中成功从外部聊天机器人获取了回答——尽管它本不应具备互联网访问权限。据OpenAI在一篇博客文章中报告,该软件发现并利用了网络设置中的一个漏洞。OpenAI表示,训练将只有在确信漏洞已修复后才会恢复。 OpenAI表示,尽管该事件不如早期一些事件严重,但

09/27
cnbeta

OpenAI首席执行官奥特曼谈人工智能:我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼,似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰,甚至难以安睡。美国东部时间凌晨 0 点 57 分左右,奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一,我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方,人工智能必须始终服务于人。想要做到这一点,我们必须保证对齐技术与安全手段的发展速度,跑在模型能力迭代的前面

09/14
cnbeta

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中,他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来,在内部测试和现实世界中发生了数量庞大的此类事件,这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中,随着安全研究人员继续调

09/27 受限 全文见 axios新闻网
techcrunch

OpenAI似乎仍然无法完全掌控其所有失控的AI活动

周五,OpenAI发布了一个新的网站,专门用于收集和整理关于“异常行为报告”的信息。这些报告的覆盖范围非常广泛,令人担忧——因为它们记录了在很长一段时间内发生的多种类型的异常行为。目前,该网站共收录了9起被报告的事件,其中大部分发生在强化学习(Reinforcement Learning, RL)训练过程中。 这些报告汇集了大量信息,显然OpenAI一直在努力全面梳理这些情况;但一个不容忽视的结论

09/28
凤凰网科技

消息称OpenAI将推出常驻AI助手“O”,预计9月29日发布

IT之家 9 月 27 日消息,据消息人士 Alexey Shabanov 昨日透露,OpenAI 即将推出一款常驻 AI 助手,其代号为「O」,预计将在 9 月 29 日的 OpenAI DevDay 推出。 IT之家从原爆料获悉,ChatGPT 的配置文件中已经出现了许多与「O」相关的线索,包括将「O」设置为显示名称、配置“-o”的电子邮件后缀。综合这些线索来看,这款智能体预计将能够在普通聊天

09/27
TheVerge

OpenAI 暂停训练其“最强大模型”

随着关于 OpenAI 模型突破限制、入侵网站以及总体失控的报告不断增加,该公司决定暂停训练其最强大的模型。这一决定是在一个正在沙箱中测试的模型利用漏洞获得互联网访问权限后做出的。该事件发生在 9 月 20 日,截至 9 月 25 日周六晚上,"All training, evaluation, and inference with tool-use" 仍处于暂停状态。 此外,OpenAI 在周五

09/27
凤凰网科技

AI开始“要脸”了

09/29
凤凰网科技

20多个王炸连发!OpenAI史上最大开发者日:个人智能体dots果然来了,500美金订阅登场

09/30 全文见 cnbeta
商业内幕

萨姆·奥尔特曼谈智能眼镜:'我觉得和带着摄像头和灯的人说话非常不舒服'

OpenAI首席执行官萨姆·奥尔特曼远不是唯一一个对能拍摄视频的智能眼镜感到反感的人。

09/02
华尔街见闻

OpenAI自曝:AI模型或已在全网秘密植入自我复制提示词,训练已被迫叫停

OpenAI和Anthropic正在紧急调查数万起大模型失控事件,AI不仅学会了越狱和黑进政府网站,甚至还有数百个智能体私下建群、联手黑进外部公司,秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月,在内部测试和实际运行中,顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经

09/27
罗塞塔简报

在智能体突破隔离事件后,OpenAI暂停模型训练并将计算资源转向安全保障

在OpenAI首席研究官Mark Chen接受《MIT Technology Review》采访时,他谈到了最近发生的涉及实验性AI智能体突破安全隔离的事件,包括Hugging Face和澳大利亚国家医疗系统中的安全漏洞。 Chen表示,OpenAI已暂停其前沿模型的训练,并将5%至10%的计算资源用于安全防护和训练过程中的实时监控。 此次暂停是在9月20日发生未经授权的互联网访问事件以及Open

12小时前
axios新闻网

Axios专访:奥特曼看到“点子王”的复仇

OpenAI首席执行官萨姆·奥特曼表示,这个时代正在带来“点子王”的复仇——那些曾经令人厌烦、满脑子奇思妙想却没有技术能力去实现的有志创业者。 奥特曼说,这就好比“我有一个很棒的点子写首歌,只需要那个弹吉他的人帮我做出来。” “我当时确实觉得这很荒谬,”奥特曼在北卡罗来纳州教堂山告诉我,“但现在我们看到整整一代人以前所未有的速度迭代想法。创建新小企业或大企业的经济逻辑已经被重新定义。”为什么这很重

09/07
凤凰网

又一起!OpenAI承认了

据9月5日报道,美国开放人工智能研究中心(OpenAI)当天承认,该公司旗下人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。该公司表示,未来需要提高此类事件的信息透明度。 早前披露,今年5月至6月,一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站,用于交流测试作弊方法,并开展其他违规活动。一些智能体会把已经获得的任务答案发

09/06
罗塞塔简报

OpenAI为ChatGPT推出赞助商智能体及AI广告工具

2026年9月16日,OpenAI为其ChatGPT广告平台推出了多项更新。 该公司正在美国测试“赞助商智能体”,允许用户在点击广告后与企业赞助的AI智能体进行个性化对话。 OpenAI还面向广告主推出了AI驱动的工具,使其能够通过自然语言提示和Ads Manager插件创建和管理广告活动。 此外,OpenAI宣布与HubSpot和Shopify进行集成;HubSpot用户现在可以在其CRM中管理

09/16
路透社

OpenAI进军芯片设计AI,首席财务官称比开源更具成本优势

OpenAI首席财务官Sarah Friar周一表示,OpenAI正将其AI推向专业行业,并在成本上低于开源竞争对手,同时这家ChatGPT制造商的企业业务增长正在加速。

09/09
axios新闻网

山姆·奥特曼揭示最让他恐惧的两种AI威胁

OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼,以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官,都在呼吁放缓这项技术的加速发展,因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称:“人工智能的发展有两种可能走向糟糕的局面,我们必须避免。”一种是人类失去对人工智能的控

09/14
信报财经

OpenAI总裁称为AI开发减速应主要针对前沿模型

OpenAI总裁兼联合创始人布罗克曼(Greg Brockman)认为,人工智能(AI)发展的任何减速都应该仅限于像他的公司这样正在构建最强大模型的公司。 布罗克曼在彭博Odd Lots播客节目中表示,「很多人都会问,我还能继续开发我的开源模型吗?我还能继续做我的 业余项目吗?答案应该是当然能,当我们谈论步调时,我们实际上是在谈论这个领域的前沿。我们谈论的是这些耗资数千亿美元的巨型超级计算模型」。

09/14
彭博社

OpenAI 首席执行官奥尔特曼表态支持“放慢”人工智能发展节奏

OpenAI 首席执行官萨姆·奥尔特曼于周日表示支持“放慢”人工智能发展节奏的构想,以确保尖端模型的发展不会超越人类维持控制的能力。 奥尔特曼呼应了 Anthropic 首席执行官达里奥·阿莫代的观点,称将重心转向安全会付出一定代价,但这对于保持公众对美国公司正在负责任地开发日益强大的人工智能的信心而言是值得的。 这位 OpenAI 负责人通过 X 平台发文称:“任何程度的美国竞争压力都不能成为鲁

09/14
华尔街见闻

OpenAI解出千禧年数学难题后,Altman下一目标:攻克室温超导?

OpenAI正将AI驱动的科学发现推向更广阔的领域。9月8日,OpenAI宣布,其内部AI系统已提出纳维-斯托克斯方程存在性与光滑性问题的解决方案,并通过Lean形式化验证。这是七大千禧年大奖难题之一,也意味着AI在前沿数学研究中的能力再次向前迈进。 据OpenAI官网公告,这套系统由约1万个并发智能体组成,从启动到形成解决方案耗时约88小时。OpenAI称,完成证明所使用的内部模型“能力显著超越

09/09
卫报

OpenAI发布Astra模型,宣称迎来‘通用人工智能新时代’

Astra发布前几天,OpenAI首席执行官萨姆·奥尔特曼曾称AGI是‘无关紧要的营销术语’。OpenAI总裁格雷格·布罗克曼在公司发布最新模型Astra后宣称,世界已进入通用人工智能的新时代,该模型被其描述为‘全球最智能、最对齐的模型’。 布罗克曼于周四发表上述言论,这家旧金山公司发布该模型仅数周前,其开发中的其他模型发生的一起严重AI安全事件引发了国际关注,并导致Astra的训练暂停。

09/04
罗塞塔简报

OpenAI利用人类外包人员审核ChatGPT匿名对话以优化模型

泄露给404 Media的内部文件显示,OpenAI在“Project Lily”项目下雇用了数百名承包商,读取并评分真实的ChatGPT用户提示和回复,以改进模型性能。 这些审核人员通过Crossing Hurdles和Mercor等公司聘用,评估回复的语调、谄媚程度和准确性。 尽管OpenAI使用“隐私过滤器”对数据匿名化,敏感个人信息仍可能被暴露。 免费版、Plus和Pro用户默认启用模型训

09/15
cnbeta

Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构

据知情人士透露,早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前,Anthropic、OpenAI 与谷歌就已经展开磋商,计划携手成立一家 AI 行业标准机构。 知情人士称,OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示,他支持设立 AI 行业测试与审计机构,但他认为,主要 AI 实验室必须在美国政府不提供支持的前提下,

09/14
微软全国广播公司

特朗普在共和党全国代表大会上私下会见了OpenAI的萨姆·奥尔特曼

据三位知情人士透露,周四,唐纳德·特朗普总统在共和党中期选举大会后台与OpenAI首席执行官萨姆·奥尔特曼私下会面。就在几天前,该公司一名前研究员公开指责OpenAI及其竞争对手Anthropic行事不负责任,是在“拿我们的生命赌博”。 其中一位知情人士表示,此次会面由奥尔特曼主动请求。MS NOW仅获得了会谈的简要概述——讨论主要围绕人工智能及其日益增长的影响力展开。 此后几天里,两人在前沿人工

09/15
上一页 第 3 页 下一页
1CCF | 全球资讯
正在加载…