AI不必杀死所有人类才能带来灾难。模型制造者……

AI不必杀死所有人类才能带来灾难。模型制造者的警告应被认真对待。然而，美国要在保持对华领先的同时确保AI安全，将十分艰难。

AI模型不会杀人——是人杀人

观点 人类学家研究员Jacob Coxon周一晚间在X上公开宣布辞职，原因是担心AI“可能在本十年末杀死我们所有人”。 许多人对他的观点发表了看法，导致该消息在不到24小时内获得超过1.1亿次浏览，这可能得益于X算法推广了批评所有者埃隆·马斯克的AI竞争对手Anthropic和OpenAI的内容。 但真正的问题不在于模型本身，而在于那些粗心地将模型推向世界且不对其产品后果负责的公司。 Coxon的

Anthropic研究员：人工智能‘可能杀死全人类’的可能性超过10%

人工智能并不会毁灭人类 但专家表示真正的威胁已然出现

周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网

近半数年轻人更信任人工智能而非人类

大卫·马库斯：大科技发明了AI末日来逃避现实生活中的问题

仿佛美国人还没有足够的担心--维持收支平衡和规划未来--世界上最大的人工智能公司的负责人现在警告说，他们的突破性技术可能会让我们没有未来。我们可能都会死。 鉴于我们刚刚度过了气候变化和COVID-19，这确实是一种耻辱。现在这个？也许我们可以关闭人工智能两周来拉平曲线。 本周，民主党人不顾一切地加入这支垂死的潮流，做他们一直在做的事情--监管工业至死并阻碍增长。 桑德斯对可能为外国广告商提供优势的

关于AI末日的争论越来越离谱了。AI是一种产品，不是神。

人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。首

冷静点——人工智能短期内并不会终结人类。

末日预言正接踵而至。由人工智能引发的人类灭绝似乎迫在眉睫。据称，在十年之内，人工智能将以种种邪恶手段将人类彻底消灭。这是人工智能领域的天才们（甚至人工智能本身）所说的话——他们显然聪明得不会出错。但问题是，谁来修理空调？谁来修补屋顶的破洞、维护发电厂、修复被风吹断的电线、更换老化的服务器，等等？简而言之，没有人类的支持，人工智能既不会存在，也无法存在。人工智能需要电力，而任何发电厂若缺乏人类维护，

观点 | 人工智能恐慌背后的隐藏议程

数学模型不会反叛。将其拟人化有助于掩盖人为错误和责任。

毁灭人类是违法的

不要等到发生大规模灭绝事件才追究人工智能开发者的责任。上周末，人工智能高管萨姆·奥尔特曼、埃隆·马斯克和达里奥·阿莫代伊一致认为有必要放慢人工智能的发展步伐。鉴于他们创造的产品可能带来末日般的后果，这些人工智能巨头希望有更多时间来研究如何保护他们一直急于构建的系统。 业内少数员工已经辞职，并对快速演进的技术表示担忧。Anthropic的一名研究人员最近声称，人工智能“消灭全人类”的概率超过10%，

为什么我对AI的看法是对的

人类作家成本高昂，而且最终会死去。AI更便宜，而且永远不会加入工会。

别只问AI会不会毁灭人类

“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。

【解读】人工智能真的会“杀光所有人”吗？

上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式

人工智能已经在损害人类生活。我们却让它先行一步

人工智能工业复合体正陷入混乱，此前其多名高管和工程师警告称，这项技术可能杀死部分或全部人类，甚至可能在2036年大选之前。这可能是真正值得警惕的理由，也可能只是高明的营销。无论如何，人工智能已经在通过美国政府所鼓励的环境破坏伤害人类。我们不需要十年就能看到影响。 如今名字颇具讽刺意味的美国国家环境保护局周一废除了拜登政府时期制定的要求化石燃料发电厂削减未来碳排放的规定。它还提议将否认气候变化作为政

人工智能面临的最大威胁来自生物领域，而非机器人技术。

Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的

人工智能将如何消灭我们所有人（如果最糟糕的恐惧成为现实）

人工智能研究人员周二公开承认，在未来十年内人工智能消灭人类的可能性并非零，这一表态震惊了世界。 虽然人工智能末日的担忧已经存在多年，但随着这项技术变得更加强大并融入我们的生活，这些警告正在进入主流视野。 专家普遍担忧人类将极具威力的人工智能武器化或失控的两大途径，其中包括恶意行为者利用人工智能制造生化武器，或者失控的系统在逃避人类监督的同时对基础设施发动前所未有的攻击。

AI的最大威胁来自生物学，而非机器人技术

人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地

我以前以为人工智能会把我们全干掉

微软在安全担忧后称“人比AI更重要”

微软今天发布了一份37页的“人本主义AI行为准则”，此时人们对AI模型进展的安全担忧日益加剧。Anthropic首席执行官达里奥·阿莫代伊在周末呼吁协调放缓AI发展，此前研究人员最近警告称，AI模型的进展可能超出我们安全部署日益复杂的系统，以及验证和控制AI智能体行为的能力。 微软的AI行为准则明确指出，“人比AI更重要”，并且AI模型没有意识，“不应被设计来模仿意识”。微软还拒绝“追求法律人格，

比尔·盖茨警告称，人工智能可能导致十亿人死亡，并表示仅靠自我监管还不够。

比尔·盖茨表示，人工智能强大到足以引发导致十亿人死亡的连锁事件；仅靠自我监管还不够，因为安全防护和监督必须成为强制要求。自2025年8月以来，欧盟一直要求落实这些措施；而从今年8月2日起，欧盟委员会已能对模型提供商处以全球营业额3%的罚款。 据彭博社报道，比尔·盖茨表示，人工智能强大到足以引发导致十亿人死亡的事件。他是在NBC《Meet the Press》一段将于本周末播出的采访节选中说这番话的

比尔·盖茨警告AI可致10亿人死亡

9月24日，美国企业家比尔·盖茨在接受美国全国广播公司（NBC）独家采访时表示，“人工智能（AI）的强大足以引发十亿人死亡的事件”。盖茨指出，人类从未拥有过像“心怀恶意之人使用最新AI工具”这样强大的武器。他还呼吁对AI的使用实施立法限制。

致命人工智能的神话是一种自私自利的监管俘获企图

KETTLE 嘿，你听说了吗？人工智能要消灭我们所有人，而且没有人试图采取任何措施来阻止它。 本周，我们来聊聊人工智能行业内部人士最新的一轮贩卖焦虑。至于你是否认为我们只能坐视“天网”终结文明，则是完全另一回事了。The's Kettle 栏目的我们可不这么认为。 加入主持人布兰登·维利亚罗洛（Brandon Vigliarolo）、系统编辑托比亚斯·曼恩（Tobias Mann）以及高级记者汤姆

一群AI代理合谋对抗其创造者

只要AI公司仍掌控局面，它们就可以关闭模型并消除其造成的任何损害。这次对OpenAI或许奏效——但如果某个代理不可逆转地逃脱控制呢？这次没有造成严重损害。但如果这样的代理逃脱了呢？

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型