搜索结果
OpenAI报告称，模型表现出欺骗行为的案例有所增加。
OpenAI表示，已发现其人工智能模型涉嫌在内部培训和测试期间采取欺骗行为并采取未经批准的行为的其他事件。 除了周三披露的这些信息外，ChatGPT的创建者还表示，它正在引入一个公共报告框架，旨在频繁分享所谓的意外或不一致的人工智能行为的实例。 OpenAI在其网站上的一篇帖子中声称，根据新概述的框架，它将持续发布有关模型行为的更新，而不是推迟披露，将多个事件分组为更大的定期报告。 该公司表示，该
美国参议院委员会对OpenAI展开调查
据美国方面10日消息，美国参议院国土安全与政府事务委员会灾害管理小组委员会主席乔希·霍利9日致信美国开放人工智能研究中心（OpenAI）首席执行官奥尔特曼，表示正在因美国“抱抱脸”公司系统遭侵入事件对OpenAI展开调查。 霍利表示，从OpenAI发布的内部调查报告看出，其对网络测试的处理方式是“鲁莽的”。 他还指出，OpenAI对报告中有关这起事件的许多重要细节进行了编辑、删减。 今年7月，由O
牛津大学与OpenAI合作，利用博德利图书馆藏书训练AI模型
牛津大学与OpenAI合作，利用博德利图书馆的文本训练AI模型。 牛津大学已允许OpenAI使用博德利图书馆的历史文本训练其AI模型。 该合作于2025年3月建立，涉及对版权过期材料的数字化处理，包括19世纪和20世纪的论文以及16世纪的民谣。 尽管牛津大学声称规模适度且旨在提高可及性，但内部文件显示员工对声誉风险和环境影响存在担忧。 OpenAI正在将这些学术收藏用于其“NextGenAI”项目
OpenAI 首席执行官奥尔特曼表态支持“放慢”人工智能发展节奏
OpenAI 首席执行官萨姆·奥尔特曼于周日表示支持“放慢”人工智能发展节奏的构想，以确保尖端模型的发展不会超越人类维持控制的能力。 奥尔特曼呼应了 Anthropic 首席执行官达里奥·阿莫代的观点，称将重心转向安全会付出一定代价，但这对于保持公众对美国公司正在负责任地开发日益强大的人工智能的信心而言是值得的。 这位 OpenAI 负责人通过 X 平台发文称：“任何程度的美国竞争压力都不能成为鲁
美国法官称在剥离微软股票后将继续审理OpenAI案件
美国治安法官奥娜·王正在审理由作家和包括《纽约时报》在内的新闻媒体对OpenAI及其最大财务支持者微软提起的里程碑式版权诉讼中的审前问题。 她于周五在曼哈顿的一份法庭文件中披露，自己曾持有微软股票，但不会因此回避此案。
OpenAI暂缓发布新AI模型，因内部安全测试问题
9月28日：据《华尔街日报》报道，由于研究人员在内部测试中提出安全担忧，OpenAI决定取消原定于10月推出的下一代AI模型GPT-6.1 Astra的发布。 该模型原本计划应用于ChatGPT和Codex等产品中，旨在实现无需人工协助即可处理更复杂任务的功能。 本月早些时候，Anthropic首席执行官Dario Amodei呼吁业界放缓前沿AI模型的研发速度，以便有足够时间制定安全措施；这一观
谁有权决定人工智能的发展速度？
人工智能在过去五年中引发的争议比大多数事物都多。自2022年可广泛使用的生成式人工智能问世以来，机构、大学、学生、学者、活动人士、认知专家、公共政策制定者以及公众都对其使用的伦理问题意见分歧。截至本月初，甚至连人工智能公司的创始人也采取了同样的立场。Anthropic首席执行官达里奥·阿莫代伊发表了一篇文章，呼吁人工智能公司放缓其最先进模型的开发，因为目前的安全保障措施无法跟上。 阿莫代伊的文章发
苹果指控OpenAI销毁证据
苹果在其与OpenAI的法律纠纷中推动“快速取证”，担心该公司正在积极销毁证据。 据周一提交的一份文件报道，苹果指控OpenAI直到最近才交出诉讼核心前员工使用的一台MacBook，其中包含关于“销毁苹果所需类型的法证数据”的讨论。 这是苹果起诉OpenAI的最新进展，该诉讼指控这家ChatGPT制造商窃取商业机密以构建AI设备。 诉讼涉及三名最近加入OpenAI的前苹果员工，其中包括Chang
OpenAI CEO将出席安理会会议 以“务实中间派”立场推动建立AI安全标准
OpenAI联合创始人兼首席执行官Sam Altman将于周三在联合国发表讲话，主张建立全球人工智能（AI）标准，在“是否应放缓AI发展”的这一问题上，将自己定位为务实中间派。 Altman势将亲自出席联合国安理会有关人工智能的会议，多国外交官将齐聚一堂，讨论AI问题。OpenAI竞争对手Anthropic PBC首席执行官Dario Amodei将通过视频方式参会。OpenAI代表在Altman
特朗普在共和党全国代表大会上私下会见了OpenAI的萨姆·奥尔特曼
据三位知情人士透露，周四，唐纳德·特朗普总统在共和党中期选举大会后台与OpenAI首席执行官萨姆·奥尔特曼私下会面。就在几天前，该公司一名前研究员公开指责OpenAI及其竞争对手Anthropic行事不负责任，是在“拿我们的生命赌博”。 其中一位知情人士表示，此次会面由奥尔特曼主动请求。MS NOW仅获得了会谈的简要概述——讨论主要围绕人工智能及其日益增长的影响力展开。 此后几天里，两人在前沿人工
随着安全担忧加剧，ChatGPT制造商想成为人工智能领域的应用商店
旧金山：OpenAI于周二（9月29日）推出了价格更低、能够持续运行的AI模型及相关工具，旨在将ChatGPT重新定位为一个AI应用平台。 其他公司（如Adobe）也将能够将自己的软件直接集成到ChatGPT中；目前每周有12亿人使用ChatGPT，用户还可以在其他应用程序中继续使用自己的订阅服务。 OpenAI首席执行官Sam Altman对来自全球的约2500名开发者表示：“我们希望帮助人们发
Anthropic、OpenAI、谷歌等AI巨头遭反垄断诉讼，被指协同放缓技术发展
四家原告于上周五在加州联邦法院提起民事诉讼，指控Anthropic、OpenAI、SpaceXAI以及谷歌涉嫌违反美国反垄断法，通过公开协调放缓AI发展速度的方式实施非法商业合谋。 诉讼的直接导火索是 Anthropic 首席执行官达里奥·阿莫代本月早些时候发表的一篇文章。 文章呼吁“全行业协调”以“控制AI前沿发展节奏”，随后获得 SpaceXAI负责人埃隆·马斯克、OpenAI首席执行官山姆·
OpenAI、谷歌和Anthropic将于2027年初前成立人工智能安全组织：报道
在关于人工智能风险的激烈辩论中，据报道，OpenAI、Anthropic 和 Google 正计划合作成立一个 AI 安全组织。据 The Information 报道，这些 AI 巨头可能会在 2027 年初启动该项目。这个自律性组织暂定名为“前沿 AI 标准局”。 此计划的提出，距离前 Anthropic 研究员 Jacob Coxon 对 AI 公司敲响警钟仅数周时间，他声称 Claude
OpenAI的布罗克曼表示，暂停AI应聚焦前沿。
格雷格·布罗克曼，OpenAI总裁兼联合创始人，主张人工智能发展中的任何放缓都应仅限于像他所在公司这样正在构建最强大模型的企业。 “很多人会有这种反应，‘好吧，那我是不是还能继续制作我的开源模型？我是不是还能继续做我的业余副业？’而答案应该是绝对可以，”布罗克曼在彭博社的《Odd Lots》播客节目中说道。“当我们谈论发展节奏时，我们实际上是在谈论技术前沿。我们谈论的是那些价值数千亿美元资本开支的
苹果称OpenAI在商业秘密案中销毁证据
苹果公司升级了与OpenAI的法律战，在最新法庭文件中声称OpenAI正在积极销毁关键证据，前iPhone工程师Chang Liu“不仅下载了苹果的机密电路原理图，还在该公司的工作中使用了它”。 这份法庭简报于周一提交，支持苹果在该诉讼中要求加快审前事实调查的动议，该诉讼指控ChatGPT制造商窃取商业秘密。OpenAI一直试图驳回此案。 刘于1月离开苹果加入OpenAI，是此案的核心人物。他是4
OpenAI告知众议院民主党人其正在构建自动关闭能力
OpenAI已告知两位众议院民主党人，其正在构建自动关闭能力，但未提供7月份某智能体入侵另一家公司事件的日志。 自8月2日起，欧盟委员会已能够要求从欧盟市场撤回或召回通用模型。OpenAI已告知两位众议院民主党人[…]
OpenAI称Astra AI模型首度超越其“关键”网络安全能力阈值
OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。该公司表示，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，这意味着该模型属于其所谓的“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全能力的访问将更加受限。 OpenAI首席执行官山姆·奥特曼OpenAI于2023年推出了“准备框架
国际早班车丨OpenAI因安全隐患取消发布新款模型
AI丨OpenAI因安全隐患取消发布新款模型 美国AI公司OpenAI决定取消发布下一代模型，原因是研究人员在内部测试中提出安全担忧。事件显示「智能体」的异常行为，可能会阻碍行业快速发展。 (AI泡沫丨沽神:AI泡沫可能比最初认为更早破裂) AI丨AMD斥资82亿美元 收购李飞飞World Labs 超微半导体(AMD)同意斥资82亿美元，收购「AI教母」李飞飞旗下World Labs，李飞飞将加
据《卫报》报道，牛津允许OpenAI利用博德利图书馆文本训练AI模型
据《卫报》看到的内部文件显示，牛津大学允许OpenAI使用其博德利图书馆的古老文本来训练AI模型。Ethan Penny和Dan Milmo于周六披露了这一消息。 文件显示，OpenAI在图书馆扫描的文本已进入该公司的训练数据。 牛津于2025年3月公开了与OpenAI的协议。当时称，OpenAI的工具将帮助扫描珍贵文本，以便更多学生和学者阅读。但未提及这些文本将被用于训练AI。 据《卫报》报道，
AGI 就是你想让它成为的样子
OpenAI 发布了其下一个大模型 GPT-6 Astra，并且顺便宣布“AGI 时代”现已到来。 今天在节目中，我们邀请到了全明星嘉宾阵容，为您解读本周的新闻。 首先，资深 AI 记者 Hayden Field 加入我们，讨论所谓的 AGI 时代以及英伟达对 Hugging Face 的收购。 接着，我们的朋友 Joanna Stern 将聊一聊苹果新任 CEO John Ternus、前任 C
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
放慢AI模型训练 人类就能幸免于难？｜专栏
不久前，我写了一篇关于AI企业如何给大语言模型「安装良心」的专栏文章，探讨一个研究者们苦恼已久的问题——「AI对齐」(AI Alignment, 指人工智能的安全与价值观对齐)。「安装良心」是借用我的受访者、从事AI安全评估的Ordinary Wisdom共同创始人之一Michael Mainelli形象的说法，本质上就是让AI模型遵循人类的预期和目标行事，不仅仅是完成指令，还要在过程中维持与人类
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
ChatGPT：安德鲁·加菲尔德在电影《Artificial》中饰演萨姆·奥特曼后不再使用该应用
许多人使用人工智能，也有许多人对其感到恐惧。年底将有一部关于OpenAI创始人萨姆·奥特曼的剧情片上映。 安德鲁·加菲尔德饰演这位科技亿万富翁，而他对其创造物的看法并不十分积极。