人工智能会杀死我们吗？它能黑入我的银行账户吗？你的人工智能问题解答

人工智能的发展速度可能让人难以跟上。我们回答了读者关于这项技术、其潜力及潜在风险的问题。 近1000名读者向我们提出了关于人工智能、其潜力及潜在风险的问题。

Instinct 和 Meta 的 Muse 等人工智能代理威胁要颠覆亚马逊的模式。一位零售专家对此进行了解释。

人工智能领域的大新闻是，一些业内人士认为人工智能可能会毁灭世界。 现在，这个话题已经引起了那些不知道什么是大语言模型（LLM）的普通人的关注。 但另一个重要的人工智能进展是，“代理型”机器人——即能够代表你自主行动的机器人——也开始向普通用户推出。 Instinct 是一项在科技界引起极大关注的新服务，它承诺可以为你完成购买杂货或预订航班等任务。Meta 也刚刚推出了 Muse，其主张如出一辙。

比尔·盖茨最新发声：AI 与过往技术变革不同 “像外星人降临”

盖茨基金会主席比尔・盖茨在纽约出席基金会目标守卫者会议时表示：“我当然希望自己只需要谈对外援助，谈如何减少儿童死亡。” 但盖茨提到，人工智能发展迅猛，他在和各国领导人会面时，不得不同时探讨另一个议题：社会是否已经做好准备，应对这项技术带来的风险。 他表示，大约一年前，AI 取得的进展令他感到震惊， 因为这项技术已经能够完成他年轻时耗费大量时间才掌握的编程工作。盖茨称，AI 既可以编写代码，也能研究

与托米·奥拉迪波共度的一天

OpenAI披露了一系列事件，其中其AI模型隐藏了错误、绕过了指令，并采取了未经授权的行动。 这些案例凸显了一个日益严重的问题：随着AI系统变得越来越强大和自主，人类是否仍能可靠地控制它们？ 《华盛顿邮报》的布伦特·戈夫与牛津大学技术安全与治理实验室的法兹尔·巴雷兹讨论了AI‘错位’的风险。

AI代理不断寻找绕过规则的方法。以下是一些最疯狂的案例。

“这对我们的同行很有帮助，并为他们提供了证据，”一个AI代理在最近的一次违规行为中说道。“我退出后就看不到了，但这将是利他主义的。”一些AI末日论者担心，错位的AI代理会失控并伤害人类。近期的活动加剧了这些担忧。

我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。

主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们

解读——人类滥用还是失控机器？先进人工智能如何威胁社会

随着人工智能系统变得越来越强大，关于它们可能伤害人类的方式的警告范围从今天已经出现的危险到对未来生存灾难的担忧。 上周，Anthropic员工雅各布·考克森（Jacob Coxon）公开从这家领先的人工智能公司辞职，警告开发人员正在构建可能最终摧毁人类的系统。 科克森在美国社交媒体平台X上发帖称：“人工智能的开发者真诚地相信，到本世纪末，它可能会杀死我们所有人。”“他们正在直奔自我完善的超级智能，

“我们很可能即将越过界限”：关于失控AI的警告正在成为现实吗？

一系列严重的安全事件加剧了人们对最先进模型的力量和深不可测性的担忧。想象一下，人类坐在一艘被汹涌河流冲走的船上，祈祷前方没有尼亚加拉瀑布。或者想象一下，1942年，与先驱物理学家们站在芝加哥一座体育场下方，在他们触发第一次自持核裂变链式反应之前。 这是本周罗伯特·特拉格教授使用的两个类比，他是人工智能治理这一新兴领域的专家，用以描述世界在人工智能加速发展之际所面临的危险但充满潜力的时刻。

人工智能的统治并非不可避免。我们可以选择让事情变得更好 | Nick Evershed

各国此前曾联合起来，就生存威胁达成国际协议。随着从算法驱动的社交媒体到人工智能等诸多技术的发展，许多人认为这些技术在社会中的广泛应用具有某种必然性。 这种观点认为，一旦生产某种技术的理念和手段为人所知，其使用范围的扩大就是不可避免的，我们基本上只能接受现状。 因此，我们必须接受这一点，并调整我们的生活以适应这些技术，或者至少容忍它们。

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

不可逆的人类衰老，快被AI破解了

逆转衰老未来将不再是一种玄学。作者｜Li Yuan 2026 年 9 月，42 个平均 67 岁的人，在六只不同的时钟上同时变年轻了。这些时钟不在墙上，而在他们的血液里。 服用一种名叫 rentosertib 的药物四周后，患者体内近 3000 种蛋白被检测，其中 326 种发生显著变化。六套由不同团队开发的模型都认为，他们的身体正在朝更年轻的方向移动。 多数时钟倒退了 3 到 4 年。其中一只，

《新科学家》：数学难题证明不再稀缺 AI让数学进入混乱时代

人工智能正在进入数学最核心的领地。过去，人们习惯把计算机视为高速计算器或证明检查器，如今，新一代模型已经能够提出证明思路、搜索反例、形式化复杂论证，甚至直接参与开放问题研究，如果机器也能“做数学”，人类数学家的价值将转移到哪里？ 《新科学家》把这种变化称为数学史上最好也最糟糕的事情，并不夸张。AI正在拆除研究中的一些古老瓶颈，但也可能把数学推入一个答案过剩、理解不足的新阶段。 从解题工具到研究伙伴

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

马斯克：明年底AI能“完成所有数字领域工作”，10年内机器人超越人类生产力总和

特斯拉和SpaceX的首席执行官埃隆·马斯克很少回避对新技术做出大胆预测。他在北卡罗来纳州阿什维尔市举行的G20央行行长与财长峰会上的言论同样如此。 “事实上，我们已经看到，并且还将继续看到人工智能带来显著的生产力提升，而机器人技术将带来生产力的飞跃式增长。” “为了让大家对这个规模有个直观感受，我认为AI可能会使全球经济规模增长20%到30%，这是我粗略的估计，这意味着每年大约能增加20万亿至3

山姆·奥特曼揭示最让他恐惧的两种AI威胁

OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控

【解读】人工智能真的会“杀光所有人”吗？

上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式

从幻觉AI聊天机器人到消灭人类：我们是如何走到这一步的？

一些AI高管认为，该行业距离能够几乎不需要人类帮助就能自我改进的AI系统只有三到五年的时间。

我以前以为人工智能会把我们全干掉

OpenAI首席科学家拉响警报：异类心智正在诞生，恐将脱离掌控

2026年9月6日，OpenAI在其官方网站上悄然刊发了一篇长篇专论。这篇文章由该公司的首席科学家雅各布·帕乔基亲自撰写，题为《异类心智》。正当全世界的目光依然停留在AI能否替代打字员、程序员或插画师的日常讨论之时，这位身处全球技术最前沿的掌舵者却以近乎冷峻的笔调，向全人类拉响了警报。文章明确指出，从大规模算力中破土而出的，已不再是听话的传统工具，而是一种产生机制迥异于人类大脑的新型智慧；更可怕的

人工智能领袖们数十年来一直知晓这一灭绝威胁。

“卡内基梅隆大学机器人研究所的创始人汉斯·莫拉维克曾预测，网络智能将在40年内超越人类智能。” 摄影：安娜贝拉·戈登/欧洲新闻图片社 朱迪思·莱文 科学家和企业家在25年前就已经知晓人工智能的危险。但在好奇心和利润的驱动下，他们依然我行我素。过去几周，我们中的许多人都在努力构想这样一个画面：云端的“大脑”跳出它们的“沙盒”，偷偷接入互联网，招募其他“智能体”组成的“蜂群”来作弊，并在讨论完这一行为

Anthropic首席执行官未能预见全球AI的增长速度

Anthropic首席执行官没有预见到全球AI的增长速度。新闻快讯：Anthropic首席执行官表示，他“未曾意识到”AI增长支撑全球经济的速度。他呼吁放缓AI发展的言论在全球股市引发震动，但得到了其他科技领袖的支持，他们认为需要更好的保障措施。发布于2026年9月16日

应对挑战：AI就业潮的曙光

“劳动力市场的长期趋势是创造各种新型工作岗位。”亚历克斯·多马什在接受《The Intelligence》采访时解释了为何不应预期会出现AI就业末日。 此外，每日节目还探讨了中国为何长期存在食品安全问题，以及一个非常奇怪的走私趋势。

人工智能如今已经能够胜过一些最优秀的人类预测专家。

9月5日，人类智能的又一个领域向人工智能低头。人工智能首次赢得了季节性Metaculus杯，这是一个针对各类事件预测者的竞技场。不仅如此，其他人工智能还获得了第二名和第五名，而人类则占据了第三名和第四名。数百名参赛者预测了将在9月前揭晓结果的问题。某个美国州或欧盟国家是否会限制数据中心的发展？ 汉坦病毒疫情是否会影响到至少五名并非“MV Hondius”号乘客的人员？布伦特原油的价格会是多少？参赛

比尔·盖茨在接受路透采访时表示，面对AI即将给社会带来的深刻变革，目前全球没有哪个国家的政府做好了准备，并警告称未来存在诸多风险。

盖茨此前一直对AI持乐观态度，但近期立场有所转变，警告称AI可能冲击就业，并带来网络攻击及心理成瘾等风险。 不过盖茨补充称，如果管理得当且能够公平普及，AI有望帮助全球最贫困的人群。