搜索结果
观点 | 本我、自我与超级智能
本我、自我与超级智能 当米利都的泰勒斯——可以说是第一位哲学家——因贫穷和其行当的无用而遭人嘲笑时，他观察天象，预见橄榄大丰收，悄悄雇下了附近所有的榨油机，大赚一笔。亚里士多德告诉我们，他由此证明，哲学家若想发财易如反掌，只是他们不屑于此。花了约两千五百年，市场似乎终于接受了泰勒斯的观点。 对人工智能的恐慌往往聚焦于机器是会取代（抑或直接消灭）我们。但机器擅长的往往是一组特定任务：检索、近乎即时的
议员提议禁止‘超级智能’并把违反者关进监狱
美国参议员伯尼·桑德斯和美国众议员格雷格·卡萨尔已提出新立法，该立法将禁止任何人开发人工超级智能 —— 该法案将这项技术描述为能够 “毁灭人类或剥夺人类权力”，包括通过推翻政府。 根据《禁止人工超级智能法案》，AI领军人物若违反该法，将面临最高20年监禁。 该法案并不只是针对更强大的超级智能。 还将暂停先进AI系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。 该法律只有在政府创建
美参议员伯尼·桑德斯拟提新法案 全面禁止研发超人类智能AI
美国资深参议员伯尼·桑德斯（Bernie Sanders）正计划提出一项极具激进色彩的监管法案，提议在全美范围内设立严格法律禁令，全面叫停超越人类综合认知水平的“超智能人工智能”（Superintelligent AI）及通用人工智能（AGI）的研发活动。该立法倡议将人工智能对劳动力就业市场的潜在颠覆性冲击以及前沿系统对人类自身主导权的失控风险，推升至国家级立法干预的核心层面。 据披露的法案核心理
美国左右翼罕见同台：桑德斯、班农联手呼吁给超级AI“踩刹车”
美国政治光谱两端两名最具代表性的人物，因为人工智能走到了一起。 据9月14日报道，美国独立派联邦参议员、进步派代表人物伯尼·桑德斯和美国总统特朗普的前白宫首席战略师、美国右翼民粹主义代表人物史蒂夫·班农，将于15日在华盛顿出席一场名为“亲人类大会”（Pro-Human Assembly）的人工智能会议，共同呼吁对AI发展施加更多限制。 形容，两人长期以来一直是政治对手，此次却因为担忧AI可能给人类
微软CEO纳德拉呼吁为超级智能设立人类控制原则
随着全球科技行业围绕人工智能能力边界的讨论持续升温，微软董事长兼首席执行官萨提亚·纳德拉日前公开表态称，任何关于“超级智能”的探索都必须建立在服务人类并接受人类控制的基础之上，否则这样的技术发展“不值得追求”。 纳德拉表示，当前业界有许多声音主张放缓前沿人工智能模型的发展速度，但他认为，更重要的任务是在确保安全与可控性的前提下，加快人工智能成果的普及，让其惠及更多国家、社区和企业。为实现这一目标，
解读：专家们所担忧的人工智能“超级智能”是什么？
人工智能领域最重大的争论，已经不再是关于聊天机器人或深度伪造。 而是关于人类是否正处于制造出比人类更聪明的机器的边缘，以及接下来会发生什么。 最近几天，这一问题再次受到关注。此前，一名研究人员从Anthropic离职并警告称，领先的人工智能公司正“直奔自我提升的超级人工智能而去，是在拿我们的生命做赌博”；而另一位Anthropic的研究人员则表示，他个人估计，在未来十年内人工智能毁灭全人类的概率超
中美达成“超级智能”沟通机制 两国首次建立AI重大风险联络渠道
在人工智能竞争持续升温之际，中美两国正尝试建立新的安全协调机制。根据双方最新达成的安排，中美同意设立专门针对“超级智能”（Super Intelligence，简称SI）风险的双边沟通渠道，以加强未来在前沿人工智能领域的信息交流与风险管理。 这一安排被视为近期中美人工智能对话取得的重要成果之一。根据美方公布的信息，双方将在未来数月内继续推进相关机制建设，并计划于11月前举行新成立的“中美超级智能对
中国外交部：尊重美方“超级智能”提法
中国外交部发言人说，“关于人工智能表述问题，中方重视美方的立场，也尊重美方的提法。（彭博社） 针对美国使用“超级智能”代替“人工智能”说法，中国外交部表示中方重视美方的立场，也尊重美方的提法。中国外交部星期六（9月26日）以答记者问形式表示，中美元首会晤时，就人工智能问题进行了深入讨论。中国外交部发言人说，“关于人工智能表述问题，中方重视美方的立场，也尊重美方的提法。人工智能技术正在持续发展，各方
特朗普想给AI更名 提议改成超级智能/极端智能/至高智能
美国总统特朗普日前在社交平台上发文称，人工智能这个名称不够准确也不够优雅，特朗普提议将人工智能更名为超级智能(Superior Intelligence)、极端智能(Extreme Intelligence)或至高智能(Supreme Intelligence)。 特朗普还发起投票让网友选择名称，不过特朗普给的选择只有这 3 个新名称而没有原名称人工智能，目前超级智能得票率为 41%。如果选项里有
“人类需要做出的最后一项发明”：自我改进型人工智能的风险
其中一种专家担忧人工智能可能导致全人类灭亡的情景正在慢慢变为现实：人工智能学会让自己变得不可阻挡。 为什么这很重要：递归自我改进（Recursive Self Improvement），即人工智能模型在没有人类指导的情况下构建更优版本自己的能力，可能会使越来越强大的系统对人类来说变得更难控制。 RSI阈值本身并不代表危险，但缺乏人类控制加上野心勃勃的AI代理人的情景是安全关注的人工智能研究人员长
超级智能即将到来。我们该允许它吗？| TechCrunch
AI公司一直在谈论超级智能AI，仿佛它不可避免，但最近的安全事件，如OpenAI的Hugging Face漏洞，正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期TechCrunch的Equity播客中，Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah
倘若AI毁灭人类，是文明的终结，还是人性的反噬
倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份
观点 | 达里奥·阿莫代伊的文章很有胆识，但还不够深入。
在 @nytopinion.nytimes.com 上，“超级大国在防止超人类人工智能模型造成浩劫方面拥有共同利益，中国领导人显然也认识到了这一点，”塞巴斯蒂安·马拉比写道。 “无论美中协调多么困难，不协调的后果都使尝试变得至关重要。”美国的人工智能老板们单靠自身能做的有限。
什么是 AI 奇点？专家称其比以往任何时候都更近
—— 人工智能未来学家雷·库兹韦尔预测，AI 将在 2029 年达到人类水平的智能。届时，它可能开始以超越人类控制的方式快速自我进化。 这一时刻早有预言，被称为“奇点”，科技专家们争论的不是它是否会发生，而是何时发生。 一些人，如 OpenAI 首席执行官山姆·奥特曼，声称“温和奇点”已经开始。但它究竟是什么？会呈现何种景象？ “奇点”描述了一种假设的未来：AI 变得极其先进，超越人类智能与控制，
微软发布“人本主义人工智能行为准则” 强化伦理红线
面对全球范围内对高阶人工智能潜在失控风险及技术替代人类主导权的日益担忧，科技巨头微软公司正式对外公布了一套全新的框架性规范——《人本主义人工智能行为准则》（Humanist AI Code of Conduct）。该准则确立了一系列具有约束力的内部开发与产品部署铁律，旨在确保前沿人工智能系统的研发始终服务于人类自主权、尊严与社会福祉，坚决防止技术演进滑向剥夺人类决策权或破坏社会基本契约的极端轨道。