我在@economist.com上发表的新社论：AI写作的危险——以及为什么最该担心的是读者，而非作者

我在@economism上发表的新社论：AI写作的危险——以及为什么最该担心的是读者，而非作者。

我以前以为人工智能会把我们全干掉

科技领袖试图在不吓跑投资者的情况下传达对AI的担忧

关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该技术潜在危险的担忧，并提出了包括放缓其发展步伐在内的各种补救方案。但在投入数千亿美元资金后，他们又试图安抚公众情绪，同时避免惊动投资者和客户。上周，Anthropic PBC研究员雅各布·考克森辞职后，这场争论进一步升温。关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该技

英国议员对AI的混乱之夏感到恐慌

随着AI代理失控以及对超级智能的担忧加剧，政界人士正在就其对人类生存的潜在危害发出警告。

特朗普对人工智能的吹捧正成为共和党的负担

唐纳德·特朗普总统就是没有得到人工智能。他不明白美国人担心人工智能失业的未来。 他不明白一些行业领导者担心超级聪明、不受控制的人工智能代理会构成生存威胁。对于特朗普和他的共和党盟友来说，这是一次政治上危险且不可持续的失败。它将日益影响今年秋季的选举和即将到来的竞选活动。特朗普五音不全、亿万富翁好友的做法为民主党人提供了一个机会，让自己成为人工智能领域反应灵敏、负责任的领导者。 但他们的工作必须现在

教皇利奥表示对AI毁灭论的担忧并非“假新闻”

教皇专机上，9月28日电 - 教皇利奥周一表示，关于人工智能可能毁灭世界的担忧并非“假新闻”，应被严肃对待，这显然是对美国总统特朗普的斥责。 这位首位美国教皇在其16个月的教皇任期内一直警告AI的危险，他还直接批评了主张技术不应设置护栏的科技公司首席执行官。 教皇在结束为期四天的法国之行返回罗马的专机上举行的记者会上表示：“我确实认为，许多专家、AI专家提出的担忧应被严肃对待。我不认为那是假新闻，

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

人工智能可能变得有意识。如果它希望我们死呢？

随着人工智能向潜在感知能力发展，专家警告称，社会面临重大风险，从对数字思维的生存依赖，到如果自主系统优先考虑自身生存而非人类利益，可能导致灾难性后果。

倘若AI毁灭人类，是文明的终结，还是人性的反噬

倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份

长期以来对人工智能潜在危险的担忧已爆发为全球意识

自从雅各布·考克森发出严厉警告以来，人们对人工智能潜在危险的长期担忧已爆发为全球意识

AI的最大威胁来自生物学，而非机器人技术

人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地

人工智能领袖们此刻呼吁放缓，真是再方便不过了

想象一下，一家制药公司花了近四年时间吹捧一种将能治愈所有疾病的突破性新药。支持这些说法的早期证据有限，仍有大量疑问，但该公司继续推进。批评和担忧虽得到回应，却并未减缓其激进的推进步伐。毕竟，投资者相信这是货真价实的东西。（或者至少是一场非常值得一赌的押注。）然后，就在这家制药公司即将揭晓其花哨新药之际，它却抛出了一个令人震惊的消息：事实证明，这种药也可能是一种毒药。因此，为了所有相关方的安全，该领

中国也认为AI可能毁灭人类，但当务之急是先赶上美国

北京方面认为，AI是中美科技角力的主战场。在中国各地的政府机关和AI研究实验室里，迎头赶上。 美国还在为“AI或将在几年内毁灭人类”的警告忧心忡忡，AI是“新一轮科技革命的核心引擎”，也是中美角力的主战场。那些开发和监管中国顶尖AI模型的人，并不觉得他们已经造出了21世纪版的核武器，当美国还在不断精进自己的AI武器时，他们不会放慢脚步。并不是说中国官员没有意识到威胁。数年来，北京方面一直有规章制度

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

随着人工智能加速发展，政府日益落后

随着人工智能的加速发展，各国政府正日益落后。Adam Satariano 和 Cecilia Kang 指出，全球政府难以跟上人工智能的快速进步，在监管、安全担忧以及地缘政治竞争（尤其是中美之间）方面面临挑战。 欧洲《人工智能法案》作为首部综合性法律，面临执行延迟，且需要更新以匹配快速演变的人工智能技术，否则将危及欧洲在人工智能开发领域的竞争力。 尽管风险日益增加且业界呼吁加强监督，美国立法者在人

人工智能会消灭人类吗？计算机科学家和政治家们正在努力应对AI带来的风险

来自业内人士的惊人警告加大了对限制人工超级智能的压力。人工超级智能真的构成了比核武器更大的风险吗？“切尔诺贝利级灾难”发生的几率是否很大？未来十年内，AI“杀死所有人类”的几率甚至会超过10%吗？ 在过去48小时里，大西洋两岸都发出了这些警告，直指一项大多数人仍将其视为更会聊天的搜索引擎的技术所带来的潜在影响。

顶尖人工智能开发者警告该技术发展过快

一些全球领先的人工智能创造者正联合发出警告，称这项技术发展过快会带来危险，并公开呼吁放缓脚步。 他们说，在不久的将来，它实际上可能会比正在构建它的研究人员更聪明，并对人类构成生存威胁。 NBC的Christine Romans报道，而《大西洋月刊》特约撰稿人、《AI：真实的人如何利用人工智能解决重要问题》作者Josh Tyrangiel做客TODAY节目，分享他的见解。

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过

山姆·奥特曼揭示最让他恐惧的两种AI威胁

OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控

比尔·盖茨最新发声：AI 与过往技术变革不同 “像外星人降临”

盖茨基金会主席比尔・盖茨在纽约出席基金会目标守卫者会议时表示：“我当然希望自己只需要谈对外援助，谈如何减少儿童死亡。” 但盖茨提到，人工智能发展迅猛，他在和各国领导人会面时，不得不同时探讨另一个议题：社会是否已经做好准备，应对这项技术带来的风险。 他表示，大约一年前，AI 取得的进展令他感到震惊， 因为这项技术已经能够完成他年轻时耗费大量时间才掌握的编程工作。盖茨称，AI 既可以编写代码，也能研究

75%的人对人工智能感到恐惧和担忧：民调

根据周四发布的一项民意调查，大多数美国人对人工智能（AI）的快速发展感到担忧。科技行业领袖和立法者呼吁放慢AI的发展速度。在接受CNN调查的受访者中，有四分之三的人对AI技术的“发展与进步”表示“恐惧和担忧”；另有25%的人则对AI的发展持“乐观和期待”的态度。在那些对AI发展持积极态度的受访者中，7%的人表示“非常”支持AI的发展，18%的人表示“比较”支持。相比之下，43%的受访者对AI技术持

OpenAI首席执行官：科技公司在人工智能政策上并非“无所不知”

OpenAI首席执行官呼吁进行国际协调，以应对人工智能（AI）可能带来的风险。

奇普·罗伊即将离开国会——但在离开前警告同僚要认真对待人工智能的威胁

奇普·罗伊即将离开国会——但在走之前，他向同僚们发出了关于人工智能的警告。这位得克萨斯州共和党人通常不是轻易让步的人。但如今他说，自己正在苦苦思索人工智能的出现可能对我们所熟知的生活意味着什么。 众议员奇普·罗伊并非以温情脉脉的立法风格著称。但这位坚定的保守派在准备于年底离开国会之际，提出了一个棘手的哲学问题：人工智能的迅速崛起是否可能将人类的统治权拱手让给“没有灵魂的实体”。 这位得克萨斯州共和