三名研究人员利用Claude访问到了OpenAI的内部代码。OpenAI支付了6500美元，并在14小时内修补了漏洞。

Hacktron AI的三名研究人员利用Anthropic的Claude模型，在不到72小时内串联起两个漏洞，成功访问了OpenAI员工账户及一个内部代码库。他们进行了私下披露，OpenAI在约14小时内修复了单点登录漏洞，并向该团队支付了6500美元的奖金。这两个漏洞均非人工智能漏洞，而引用该事件的研究论文作者表示，他们已不再确信该行业正处于正轨之上。 Hacktron AI的安全研究人员利用A

我们已经开始失去对人工智能的控制。是时候将其关闭了 | 加里森·洛夫利 (Garrison Lovely)

听起来像是科幻剧集中关于人工智能毁灭的、过于夸张的倒数第二集，如今却成为了我们的现实。 周二，一名OpenAI的前研究员辞去了Anthropic的工作，并发出警告称“两家公司都没有负责任地行事”，并且“构建人工智能的人由衷地相信它可能会在本十年结束前消灭我们所有人。这不是营销噱头。” 作为一名多年来报道人工智能风险的人，这对我来说并不算什么新鲜事。 但外界如潮水般的惊恐表明，更广泛的公众正在第一次

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

AI先驱者警告：若AI开始自我改进，“行动窗口可能关闭”

一些全球顶尖的人工智能（AI）研究人员和政策制定者——包括来自 OpenAI、Anthropic 和微软的专家——警告称，AI 自动化自身开发的能力不断增强，这可能会使其发展速度大幅加快。 为何这很重要？他们指出，如果 AI 的能力以如此惊人的速度提升，政府和机构将几乎没有时间来准备或应对由此带来的后果。 他们警告说，在某些情况下，AI 的能力可能在短短几周内就实现一年内的进步。 这一警告

OpenAI 研究员警告称，与互联网隔离的计算机可以通过热量进行通信

把AI关进“物理隔离”的房间，也就是断开一切外部网络的计算机，是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说，光这样做也许还不够。 两台彼此隔离的计算机，仍可能借助温度传感器通信，一台把处理器“烧热”，另一台感知温度变化，就形成了传话的办法。 从技术上说，他没说错，但把细节掰开来看，这个威胁远没有听上去那么紧迫，更值得追问的，是另一件被跳过的事。这位研究者的发言

奇点并非如其所见

无论人工智能的未来如何，我们现在就身处其中。

AI会「痛」吗？｜Jack Talk・去片

本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

把AI真的当作一个人，才能保护核心隐私

在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得

OpenAI 看似取得的数学突破引发深刻疑问

数学家们至少一个世纪以来一直在试图解决纳维-斯托克斯问题。OpenAI 表示，其智能体团队仅用 88 小时就做到了。这引发了关于这门学科应如何运作的争议。

新的叙事时刻：Astra之后的AI渗透率和Token总需求

在AI时代，打败你的，是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后，上面这句话就完全不准确了，或者说完全错了。现在，在AI时代，打败你的，不再是比你更会使用AI的人或公司，而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句，上面的“你”也可以是一个公司。 还记得么？上个月，Astra就曾经亮过相，那时候作为Op

美中人工智能竞赛加速，自我改进模型取得进展

东京——美国和中国的人工智能发展正在加速，因为人工智能在自身的研发过程中发挥着越来越重要的作用，这引发了人们对先进人工智能系统可能带来的风险的担忧。 《日经新闻》研究了五家美国的主要人工智能企业（包括 Anthropic 和 OpenAI），以及四家中国公司（包括阿里巴巴集团和 Moonshot AI），以了解它们发布高性能模型升级版本所需的时间。 从 2023 年 1 月到 2026 年 3 月

为什么构建最强大AI的人们如此担心它可能带来的后果？

本周Anthropic一名AI研究员的病毒式辞职，为外界对该行业正竞相构建人类无法控制的AI的指责注入了新的活力。 英国研究员雅各布·考克森周二在X平台的一系列发文中写道，Anthropic和他此前工作过的OpenAI都在“拿我们的生命赌博”。这两家公司目前拥有最强大的AI系统。 NPR的“思考这一点”栏目探讨：大型AI公司是在拿我们的生命赌博吗？ 考克森向NPR表示，他的担忧源于亲眼看到AI系统

解释：从产生幻觉的AI聊天机器人到毁灭人类：我们是如何走到这一步的？

9月16日——美国领先人工智能实验室的负责人周末罕见地团结一致，呼吁暂停该技术的发展，警告称它可能很快就会自我改进并脱离人类控制。 这些言论来自激烈的商业竞争对手Anthropic的达里奥·阿莫代、OpenAI的山姆·奥尔特曼和xAI的埃隆·马斯克，表明人工智能发展得多么迅速，从2022年容易产生幻觉的ChatGPT，发展到许多人眼中的关键递归自我改进。什么是递归自我改进？ 人工智能的圣杯是这样一

OpenAI首席执行官萨姆·奥尔特曼告诉员工，公司愿意放缓尖端人工智能的发展

OpenAI正在考虑放缓尖端人工智能的开发，而ChatGPT制造商的首席执行官萨姆·奥尔特曼希望其他人工智能公司也能这样做。 据多位知情人士透露（因细节属于私人信息，他们要求匿名），在本周的一次全公司会议上，奥尔特曼告诉员工，OpenAI可能会调整其人工智能开发节奏——或许会与其他几个人工智能实验室联合进行，但有些实验室可能不同意这样做。 最近几周，领先人工智能公司的员工公开表达了对先进人工智能系

AI大家谈： “我们为自己创造了一个魔鬼”？

人工智能飞速发展会给人类前途带来什么样的后果？美国AI领域的某些精英预言，人工智能再这样发展下去，会把人类毁灭，美国AI领军企业的老板们倡议放缓开发？为此采访了多个国家的普通人，请他们谈谈看法和感受。 受访者大致有两种倾向，一些人对AI目前的发展比较悲观，但也有人觉得AI很实用。 “我在工作中尝试使用它，但在私人生活中，我仍然对它感到害怕”。他的同胞，18岁的塞尔马泰则说，人工智能对像他这样的学生

“不成熟的操场吹嘘”：数学家对 OpenAI 的最新战果感到不安

随着 OpenAI 的模型攻克了困扰专家数十年的千禧年大奖难题，许多人对变革的速度感到震惊。这让数学家们感到晕头转向。在人工智能不断推动该领域发展的多起案例之后，OpenAI 宣布其最新的 AI 模型攻克了一个千禧年大奖难题——一个悬赏 100 万美元、数十年里一直难倒人类大脑的谜题。 这一成就与数学问题的常规解决方式几乎没有相似之处。一家价值近万亿美元的私营公司向该问题部署了 10,000 个智

美国人工智能领袖警告联合国：若无全球应对可能面临危险

OpenAI负责人萨姆·奥特曼周三告诉联合国安理会，人工智能的发展使其“好处更加切实，但风险和代价也更加迫在眉睫”。

OpenAI满世界抓漏洞，结果被中国AI反杀！Codex再曝0day

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

观点 | 为什么人工智能对科学是危险的

在@nytopinion。“如果OpenAI和Anthropic真的想帮助推动科学进步，有一个显而易见的方法：他们可以拿出巨额财富的一小部分，来资助那种越来越缺乏资源的谦逊但至关重要的研究，”Zeynep Tufekci说。警惕那些华而不实但未经证实的人工智能驱动的进展。

人工智能安全对话已经变得令人难以置信

本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi

AI可能进入新阶段。来自OpenAI的波兰人警告其后果

波兰计算机科学家、OpenAI首席科学家雅库布·帕霍茨基警告称，人工智能的发展可能进入一个阶段，AI将开始越来越快地加速自身发展。他认为后果可能很严重。 作为OpenAI首席科学家及GPT模型的研究者之一，雅库布·帕霍茨基发表了一篇题为“异类心智”的分析文章。他在文中警告，人工智能可能开始越来越快地加速自身发展。他认为世界对此尚未做好准备，后果可能很严重。帕霍茨基认为，AI可能很快进入下一个新的发

一位曾经对人工智能“奇点”理论持怀疑态度的著名计算机科学家现在表示，人类“确实处于危险之中”。

最近，互联网上充斥着大量关于人工智能末日即将来临以及我们是否已经过了“不归点”的X平台推文、文章和布道。这里还有一篇由著名理论计算机科学家斯科特·阿伦森（Scott Aaronson）撰写的雄辩之作，他的研究曾帮助我们理解量子计算的极限。哦，顺便提一下，他曾在OpenAI工作过一段时间，致力于人工智能安全和“AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过