搜索结果
黑客利用Anthropic的Claude入侵OpenAI
据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划，
AI越来越会“越狱”后，英伟达开始卖“笼子”了
凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent
人工智能监管的博弈远未结束
本周初，人工智能领域的重量级人物似乎（至少是初步地）站在了支持人工智能监管的一边。 上周末，Anthropic首席执行官达里奥·阿莫代（Dario Amodei）提出了一项放缓人工智能发展的“三步走”计划，包括在实验室中引入第三方评估机构、协调国内行业，以及在政府协助下达成国际协议。 OpenAI首席执行官萨姆·奥特曼（Sam Altman）、谷歌DeepMind联合创始人德米斯·哈萨比斯（Dem
年度高管：Vijaye Raji
OpenAI 分为三个部门。首先是研究部门，负责训练前沿模型；其次是扩展与基础设施部门，负责处理训练所依赖的大规模计算机；最后是应用部门，负责将前两个部门的工作成果“带给用户”，应用部门首席技术官 Vijaye Raji 如是说。 Raji 领导着数据、实验和增长等关键技术团队，这些团队为 ChatGPT 和 OpenAI 的编程工具 Codex 提供支持。他表示，Codex 的使用使公司工程师的
针对OpenAI的抗议活动越来越有创意
两位来自湾区工作室的艺术家在周二于旧金山举行的OpenAI开发者活动公共入口处展示了一件桌面大小的装置艺术作品。 根据对该作品的描述，这座5英尺高的雕塑描绘了OpenAI的领导者和投资者带着巨额财富逃离一艘正在下沉的船只，而其他人则不得不独自承担人工智能带来的后果。 该作品的联合创作者之一、一位30多岁的男子（化名Kevin）表示，他和位于伯克利的Odd Friend工作室的团队花了五天时间用纸浆
《卫报》观点：AI 对决数学家——人类仍是该领域核心，科技公司却拒不承认 | 社论
OpenAI 声称其智能体已解决纳维-斯托克斯问题。但关于其工作的实用性和独立性仍存疑问。9月8日，OpenAI 宣称其 AI 智能体解决了纳维-斯托克斯问题，这是数学界最著名、最困难的挑战之一。若由人类解出，本可获得奖金和同行赞誉。该声明反而引发了部分数学家所谓的领域“生存危机”，并招致 OpenAI 滥用人类成果的指责。 纳维-斯托克斯背后的数学难以理解，但数学家们的批评对艺术家、办公室职员或
气候抗议者表示，真正的“人类威胁”是科技公司，而非人工智能——还有地球。
9月21日，人们在纽约市OpenAI办公室外抗议。摄影：朱利叶斯·康斯坦丁·莫塔尔/《卫报》周一，在纽约市气候周期间，活动人士聚集在OpenAI办公室外。周一傍晚，抗议者聚集在ChatGPT制造商OpenAI位于曼哈顿、没有任何标识的办公室外，举着标语呼吁“吃掉富人，拯救地球”。在接下来的两天里，一些团体还在科技巨头谷歌和亚马逊的办公室外举行抗议；其他抗议者，包括神职人员，在扰乱该市一场闭门人工智
奥特曼开掉3人，OpenAI又出大事了
OpenAI三员大将，同一天被扫地出门！就在刚刚，外媒爆出猛料，OpenAI以「泄密」为由，开掉了安全团队的三名研究员。他们全是那篇CoT监控论文的作者，其中两位还是一作。 讽刺的是，OpenAI刚因为新模型GPT-6.1 Astra太会骗人，在DevDay前一天紧急叫停了发布。 现在倒好，AI越学越狡猾，OpenAI却先把能看穿它的人开掉了。OpenAI大地震专盯AI脑子的3人一夜出局事情是这样
三名研究人员利用Claude访问到了OpenAI的内部代码。OpenAI支付了6500美元，并在14小时内修补了漏洞。
Hacktron AI的三名研究人员利用Anthropic的Claude模型，在不到72小时内串联起两个漏洞，成功访问了OpenAI员工账户及一个内部代码库。他们进行了私下披露，OpenAI在约14小时内修复了单点登录漏洞，并向该团队支付了6500美元的奖金。这两个漏洞均非人工智能漏洞，而引用该事件的研究论文作者表示，他们已不再确信该行业正处于正轨之上。 Hacktron AI的安全研究人员利用A
OpenAI黑色星期五！Codex全面宕机，硅谷码农提前“过节”
新智元报道周五下午三点多，硅谷程序员刚把活丢给Codex，端着咖啡等下班。突然，屏幕一片飙红，Codex卡死在「重新连接」上。 OpenAI的王牌编程智能体全线崩盘，一趴就是一个多小时，整个硅谷被迫提前喜迎周末。 X上当场炸锅，Databricks的Yuchen Jin一张梗图，把全硅谷的懵逼写在了脸上。 偏偏挑了个最要命的时间点。宕机前两小时，OpenAI刚交了份「认错书」，承认自家AI智能体往
Jeffrey Sachs：特朗普面对AI危机就如盲人引路
美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」 试
OpenAI瞄准产业AI市场 低价策略迎战开源模型
（中央社旧金山8日综合外电报导）聊天机器人ChatGPT开发商OpenAI财务长佛莱尔（Sarah Friar）表示，OpenAI正在将人工智慧（AI）技术推向专业领域，并以价格优势与开源模型竞争。 报导，佛莱尔7日在高盛集团 （Goldman Sachs）于旧金山举行的年度盛会Communacopia + Technology Conference发表谈话时说，随著企业对可针对特定任务量身打造的
OpenAI招募Patreon核心高管，即将发布重要公告
OpenAI聘请了三位前Patreon高管来负责其创作者产品策略。 在创立这个创作者订阅平台13年后，联合创始人兼技术总监Sam Yam在X平台上宣布将加入OpenAI，领导创作者产品团队。 他还带来了Patreon的前产品主管Drew Rowny和工程主管Shannon Ma，这两位高管都在过去几周内离职。 Yam在公告中表示：‘我们将在OpenAI与创作者们共同合作，提前向他们提供一套我认为对
CNBC每日开盘：人工智能将为自己的作业打分——目前如此
你好，我是Leonie Kidd，从伦敦为您报道。欢迎收看另一期CNBC《每日开盘》。 六大科技集团的老板已同意制定各自的安全措施，这对特朗普政府来说是一场胜利。 然而，签署方也承认，“随着时间的推移，将这些措施编入法律或法规或许是合理的。”继续阅读以了解更多。 今日须知 美国人工智能领域六家最重要的公司（即谷歌、Meta、英伟达、OpenAI、Anthropic、特斯拉和SpaceX）的老板签署
AI杀入科学家“主场”！OpenAI智能体将挑战人类蛋白质设计，原定“人机大战”临时改赛制
人工智能与人类科学家之间的竞争，正从棋盘和数学题蔓延至生命科学的核心领域。 Ginkgo Bioworks原本策划了一场蓄意打造"卡斯帕罗夫对决深蓝"历史时刻的蛋白质设计竞赛，计划让斯坦福大学教授Michael Jewett单独迎战OpenAI的AI智能体团队。然而，就在9月14日首轮对决前夕，这场比赛被紧急叫停，随后以一种截然不同的面貌重新登场——赛制从"单挑"变为"合竞"（coopetitio
OpenAI开发者日遭遇抗议：15+组织集会要求设数据中心安全距离
IT之家 9 月 30 日消息，科技媒体 The Verge 今天（9 月 30 日）发布博文，报道称 2026 年度 OpenAI 开发者日（DevDay）在旧金山开幕，现场遭遇大规模抗议活动。 包括湾区抵抗组织（Bay Resistance）、科技工作者联盟（Tech Workers Coalition）、服务业雇员国际工会（SEIU）在内，超过 15 个组织联合发起集会。 集会地点设在旧金山
新诉讼指控Anthropic、OpenAI等四巨头达成非法协议放缓AI开发
该诉讼于周五向美国加利福尼亚北区联邦地区法院提起。诉状认为，这些头部 AI 企业达成协同减速共识的行为涉嫌违反反垄断法，此举还会降低消费者购买 AI 付费订阅服务所能获得的价值。 诉状称，这场协同行动主要发生在 9 月 12 日。当日 Anthropic 首席执行官达里奥・阿莫代发布一篇文章，呼吁全行业开展合作，放缓技术迭代速度，把重心放在强化安全措施上。 大量失控 AI 智能体有可能仅用短短六个
随着安全担忧日益加剧｜OpenAI宣布延后IPO 盼打造承接需求 连结客户的AI平台
OpenAI CEO 阿尔特曼周二驳斥了将人工智能时代与工业革命相提并论的说法，称应从工业革命的错误中吸取教训，并表示，如果发展方向正确，AI带来的未来可以更像一场“新的文艺复兴”。（法新社∕Getty Images） （旧金山30日法新电）聊天机器人ChatGPT开发商OpenAI首席执行员阿尔特曼周二在旧金山开发者大会上宣布延后IPO的同时，宣布该公司争取商业主导地位的三步骤规划，勾勒出“模型
OpenAI的布罗克曼表示，暂停AI应聚焦前沿。
格雷格·布罗克曼，OpenAI总裁兼联合创始人，主张人工智能发展中的任何放缓都应仅限于像他所在公司这样正在构建最强大模型的企业。 “很多人会有这种反应，‘好吧，那我是不是还能继续制作我的开源模型？我是不是还能继续做我的业余副业？’而答案应该是绝对可以，”布罗克曼在彭博社的《Odd Lots》播客节目中说道。“当我们谈论发展节奏时，我们实际上是在谈论技术前沿。我们谈论的是那些价值数千亿美元资本开支的
数学家讨厌人工智能，却又离不开它
但这并不足以让他停止使用该公司的模型——持这种观点的数学家也不止他一人。 “即使你不同意这一切，你也几乎别无选择。由于人工智能如此有用，要完全避免使用它很难，”巴克马斯特（Buckmaster）告诉《连线》杂志。“这些公司拥有垄断地位，选择余地很小，”他补充道。 自纽约大学教授指控OpenAI抄袭其方法以来，已过去一个半月。在此期间，巴克马斯特一直在使用该公司的编程智能体Codex来整理他的研究论
OpenAI同日发布两份文件：AI加速时代，安全正在掉队
在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际，当地时间9月6日，宣布公司已达到去年设定的目标，拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”；另一份则由首席科学家雅库布·帕乔基（Jakub Pachocki）撰写，聚焦前沿AI发展的安全困境，强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释AI已经开始反过来加速AI研发
OpenAI因接连发生智能体失准事件而暂停前沿模型训练
OpenAI表示，已暂停所有“我们能力最强的模型”的内部训练，并继续开展首席执行官萨姆·奥尔特曼所称的“一项广泛且持续进行的审查，涉及我们的智能体在训练和评估期间对互联网访问的使用”。公司在一份关于所谓失准事件的报告中披露了此次暂停措施。事件发生在一项常规研究任务期间，一个智能体试图利用互联网访问限制中的漏洞。OpenAI称，不当的DNS过滤机制使该智能体在被要求提供一名博客作者的生平资料时，得以
马斯克突然对苹果撤诉 OpenAI怀疑有鬼、法官下令披露背后协议
X撤销对苹果指控本周早些时候，X和SpaceXAI提交了一项动议，表示在去年针对苹果和OpenAI提起的诉讼中，自愿撤回针对苹果的指控，并且不再次提出。 根据最初的起诉书，X和SpaceXAI指控苹果和OpenAI串通，阻止竞争性AI应用在App Store上获得曝光度，原因是他们达成了将ChatGPT整合进Siri和Apple Intelligence的协议。苹果和OpenAI否认了这些指控。
在支持“放缓”呼吁数日后，萨姆·奥尔特曼揭示“AI 进展可能严重出错的两种方式”
OpenAI首席执行官表示，要同时规避这两种风险，需要在行动过快与权力过度集中之间走一条“狭窄的中间道路”。 这位企业家表示，萨姆·奥尔特曼呼吁“放缓”人工智能的发展，并不意味着要停止AI进步。相反，这位OpenAI首席执行官希望构建先进AI模型的公司放慢脚步，以便安全与监控系统能够跟上。 OpenAI公司首席执行官萨姆·奥尔特曼表示，AI带来两大主要风险。他还指出了AI的两大风险——人类失去对A