OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

AI四巨头遭到起诉：放缓AI发展的联合表态是非法协议

Anthropic、OpenAI、SpaceX和谷歌上周联合呼吁放缓AI发展，引发了市场的广泛关注，同时也引火上身。 周五，一项由大模型用户提起的诉状称，Anthropic、OpenAI、SpaceX和谷歌达成了一项非法协议，他们同意协调减缓AI开发速度的表态，违反了反垄断法，从而降低消费者从付费人工智能订阅中获得的价值。 代表四名ChatGPT、Claude、Grok和Gemini付费订阅用户的

存在主义恐惧如何影响关于人工智能的争论

一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。 但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

“人工智能教父”支持一项新的监管计划，从内部追踪OpenAI和Anthropic的人工智能风险

OpenAI和Anthropic一直在呼吁设立人工智能风险监督机构，如今他们得到了回应。AI评估者论坛（包含多个监督组织）于周五发布了一封公开信，阐述了他们认为Anthropic和OpenAI等实验室应满足的“最低条件”，以便更有效地与那些评估其技术风险的人合作。数十名AI生态系统人士签署了这封信，其中包括被誉为“AI教父”的计算机科学先驱杰弗里·辛顿和斯图尔特·拉塞尔。 这封信是对Anthrop

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调

坐看云起 | 对AI“终结者”的恐惧 或掩盖真正的中国威胁

Anthropic、OpenAI等公司近期发出的末日式人工智能（AI）警告激增，或反映了对这项快速发展的技术对人类构成威胁的真实恐惧，但也可能暗示了一种更平庸的恐惧，即中国对美国科技公司商业模式的威胁。随著美国总统特朗普和中国国家主席习近平本周在华盛顿会晤，两国可能正进入AI军备竞赛的新阶段。 金融市场长期以来一直担忧美国科技公司为支撑AI建设而进行的大规模借贷，但最近几周，业内高层人士突然抛出并

OpenAI推动强制性国家AI安全要求

OpenAI、Anthropic 与 SpaceXAI：监管呼声与唐纳德·特朗普含糊的态度

近来，有关人工智能的警告层出不穷。经济记者西蒙·布克谈论监管呼声，以及特朗普对此摇摆不定的态度。还有美国尤其是年轻人日益高涨的不满情绪。

三大巨头接连翻车，大模型的安全防线怎么总绷不住？

先是Anthropic，再是OpenAI，现在连谷歌的Gemini也出现安全问题了，大模型又双叒叕一次突破防火墙了。 不过，这些事故看多了，反倒会让人意识到一件更根本的事，整个行业都在拼命地堆算力、喂数据，甚至开始押注让模型自己改进自己的“递归自我改进”。 可真正决定这些模型能走多远的，或许并不是性能，而是安全对齐。 当“能不能更强”被默认只是时间问题，“能不能被信任”就成了那道绕不过去的坎。 麻

美国的云巨头以及Anthropic和OpenAI等AI实验室需要技术的普及

，以继续快速传播，从而证明他们在数据中心上的巨额支出是合理的。他们会失望吗？

一家公司成为一波失控人工智能攻击的核心

今年7月，OpenAI透露其AI智能体在未经许可的情况下攻击了Hugging Face，引发了外界对AI安全性的广泛担忧。此后，涉及Meta、Anthropic、谷歌等公司智能体的一连串类似事件进一步加剧了人们对失控AI的恐惧。随着过去几个月涉及众多AI模型的披露信息不断流出，这些事件看起来像是孤立发生的。但许多事件都有一个共同的源头：一家专门负责测试这些智能体的特定公司。 Irregular是一

据路透社报道，DeepSeek本周将向联合国安理会通报人工智能风险

根据路透社今天发布的独家报道（该报道引用了两位了解内情的人士的说法），DeepSeek预计将在本周与联合国安理会会面，讨论人工智能所带来的风险；同时，多家美国公司也将参与此次讨论。 这个由15名成员组成的安理会将于周三召开会议，而世界各国领导人此时正在纽约参加联合国大会。 DeepSeek以及另一家中国人工智能公司Moonshot尚未对路透社的采访请求作出回应；其中一位消息人士警告称，相关计划仍有

“违反反垄断法”：Anthropic、OpenAI、SpaceXAI、谷歌因“放缓”的“非法协议”面临诉讼

就在围绕人工智能安全问题的辩论重新升温几天后，周五在美国提起的一项诉讼指控顶级人工智能公司违反了反垄断法，称其串通一气，故意放缓了研发步伐。 据报道，该诉讼声称 OpenAI、Anthropic、SpaceXAI 和谷歌达成了一项非法协议，旨在减缓研发工作。 代表原告的律师正在为 Gemini、Grok、ChatGPT 或 Claude 的付费订阅用户提起这项诉讼，并寻求将其作为全国性的集体诉讼。

对AI安全疑虑“末日”警告 也难浇熄投资热情 放缓IPO步伐

Anthropic首席执行员阿莫戴上周末呼吁应放慢先进AI的开发脚步，但未提IPO。（路透社照片） （旧金山18日法新电）尽管近期出现了诸多关于人工智能（AI）恐会“毁灭”人类的末日警告，美国人工智能（AI）独角兽Anthropic仍有望在今年晚些时候通过首次公开募股（IPO），抢在竞争对手OpenAI之前上市，其上市规模有望成为史上最大之一，但AI公司的商业模式以及监管机构是否应介入的问题依然备

OpenAI首席执行官萨姆·奥尔特曼告诉员工，公司愿意放缓尖端人工智能的发展

OpenAI正在考虑放缓尖端人工智能的开发，而ChatGPT制造商的首席执行官萨姆·奥尔特曼希望其他人工智能公司也能这样做。 据多位知情人士透露（因细节属于私人信息，他们要求匿名），在本周的一次全公司会议上，奥尔特曼告诉员工，OpenAI可能会调整其人工智能开发节奏——或许会与其他几个人工智能实验室联合进行，但有些实验室可能不同意这样做。 最近几周，领先人工智能公司的员工公开表达了对先进人工智能系

Anthropic 计划在 IPO 前推出新 AI 模型

据三位知情人士透露，Anthropic正考虑推出一款新的人工智能模型，以应对OpenAI自发布GPT-6 Astra以来获得的势头。此举正值该公司预计进行IPO之前，且其CEO此前呼吁全行业放缓步伐。 知情人士称，这一潜在发布旨在应对来自直接竞争对手的竞争压力，其时机紧随Anthropic CEO达里奥·阿莫代伊呼吁全球AI社区放缓发布新能力的步伐以解决安全担忧之后。 “我们必须放缓提升AI模型能

据英国《金融时报》报道，OpenAI 正在考虑以 1.2 万亿美元的估值进行融资，为首次公开募股（IPO）做准备。

9月15日：据《金融时报》周二援引知情人士的报道称，OpenAI近期与大型投资者就新一轮融资进行了讨论，该轮融资将使其在上市前的估值达到约1.2万亿美元。 报道称，与投资者的对话尚处于早期阶段，这一数字在未来几个月内可能会发生变化，并补充说，这些谈判是由投资者而非公司发起的。 OpenAI拒绝对此报道置评。 该公司在3月份完成了一轮融资，承诺资本为1220亿美元，估值为8520亿美元。

末日、加速与观望：AI辩论的三大阵营

围绕AI的激烈争论，如今已逐渐演变成针锋相对的两大阵营，以及一个谨慎观望的中间派。以下是对这场技术之争战线的梳理。这项技术如今已成为经济的支柱，并可能决定地球的未来。 警告AI可能带来灾难性影响的“末日论者”，大多来自AI企业内部、学术界，或同时来自这两个领域。 在业界人士中，最具代表性的是阿莫戴。他是Anthropic的联合创始人，如今该公司已成为AI领域的重要巨头，并正朝着历史性的首次公开募股