桥水基金CEO警告称人工智能威胁将导致“社会崩溃”

彭博社报道——全球最大对冲基金之一桥水基金预测，如果人工智能不受监管，且社会未能为技术剧变做好准备，它可能会取代美国近五分之一的劳动力。 桥水基金首席执行官尼尔·巴尔·迪亚在最新一期的节目中表示：“因为我们对人工智能的积极影响如此乐观，我们也认识到，任何能够如此积极地改变世界的事物，也可能产生严重的负面影响。”他补充道：“我们估计人工智能可以取代18%的美国劳动力。所以想想可能发生的社会崩溃的严重

盖茨、奥尔特曼、马斯克，为何都在担忧这件事

9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作

比尔·盖茨：AI已强大到足以造成“10亿人死亡”

盖茨在即将于本周末播出的美国全国广播公司（NBC）《与新闻界对话》（Meet the Press）节目采访片段中表示： “AI确实足够强大，能够引发导致……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像坏人与最新AI工具相结合那样强大。” 随着技术的快速迭代，硅谷对AI可能带来毁灭性灾难的警告不断升级。 本月早些时候，Anthropic公司的普通员工Jacob Coxon辞去

花旗首席执行官预见在防御人工智能的竞赛中将出现“海啸”般的补丁

作者：艾莉森·麦克尼利（Allison McNeely）和托德·吉莱斯皮（Todd Gillespie）花旗集团首席执行官简·弗雷泽表示，随着人工智能模型变得愈发强大并可能引发网络攻击，各公司正竞相加强自身防御能力。 弗雷泽周日在纽约举行的卡塔尔经济论坛上表示：“目前存在一场防御竞赛，旨在巩固公司所有边界的安全，全球各公司正经历一场补丁更新的浪潮。” 今年早些时候，Anthropic PBC发布了

AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？

AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速

比尔·盖茨在接受路透采访时表示，面对AI即将给社会带来的深刻变革，目前全球没有哪个国家的政府做好了准备，并警告称未来存在诸多风险。

盖茨此前一直对AI持乐观态度，但近期立场有所转变，警告称AI可能冲击就业，并带来网络攻击及心理成瘾等风险。 不过盖茨补充称，如果管理得当且能够公平普及，AI有望帮助全球最贫困的人群。

冲上热搜！比尔·盖茨警告：AI或足以造成“10亿人死亡”

挪威主权财富基金对AI股市泡沫发出警告

随着估值飙升，一些全球投资者正警告人工智能（AI）股票存在泡沫。仿佛人工智能（AI）投资的庞大规模还不够令人不安，全球最大主权财富基金的掌门人也发出了警报。 挪威政府全球养老基金（GPFG）首席执行官尼古拉·唐根上周警告称，如果出现极端市场崩盘，其2.4万亿美元（2.07万亿欧元）投资组合遭受巨额亏损“并非完全不可能”。该基金成立的目的是投资这个北欧国家庞大的石油和天然气收入，今年前六个月实现了创

联合国秘书长警告AI风险：全球不能陷入逐底竞争

联合国秘书长古特雷斯当地时间周三警告各国领导人，快速发展的人工智能(AI)正在带来不容忽视的风险，全球不能承受AI安全领域逐底竞争的风险。这一表态与美国总统特朗普形成分歧，后者此前表示，现有的监管措施已经足够。 在下周联合国大会于纽约举行之前，古特雷斯表示，加强对AI的监管将成为他与各国领导人会谈时重点讨论的问题之一。 在新闻发布会上，“当我们审视世界各地面临的威胁时，我想就AI快速发展所引发的日

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

Anthropic对齐研究负责人称未来十年AI灭绝人类的可能性超过10%

一位Anthropic公司的安全研究员周二表示，人工智能有超过10%的概率可能 “毁灭全人类”。就在此番言论发表的数小时前，该公司另一名员工表示，因担忧人工智能实验室是在 “拿我们的生命做赌注”，他选择离职。 这些言论凸显出人工智能研发核心人士日益增长的担忧，即该技术可能失控并对人类构成威胁，尽管Anthropic和OpenAI仍在持续筹集大量资金，并朝着预期的公开上市迈进。 Anthropic的

澳新银行首席执行官在马斯克和奥尔特曼发出警告后，就

澳新银行集团控股有限公司首席执行官努诺·马托斯就人工智能带来的不断上升且难以预测的风险发出警告，并且在该行采用这一迅速兴起的技术之际，未排除大规模裁员的可能。 “目前，它制造风险的速度远远快于其自身建设者和开发者的预想，”马托斯周二在悉尼举行的《澳大利亚金融评论》亚洲峰会上表示。 “The fact that you see Musk, Dario and Sam saying that they

英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制

DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。

桥水的詹森称，人工智能在被遏制之前将造成人员伤亡

全球最大对冲基金之一联席首席投资官格雷格·詹森（Greg Jensen）周五在播客节目中对人工智能热潮的风险与后果发出了严厉警告。 他将当前的人工智能浪潮比作2020年2月新冠疫情爆发前的日子，并预测在人工智能真正造成人员伤亡之前，人类可能不会采取实质性行动。 詹森并非技术恐惧者，他是OpenAI和Anthropic的早期投资者，且在其长达30年的桥水生涯中一直积极推动算法交易和量化投资。 他指出

比尔·盖茨罕见警告动荡时代到来，危险的味道在蔓延

"这是我第一次面对一种新技术，希望它发展得慢一点。"知道这句话是谁说的吗？竟然是来自比尔·盖茨最近在个人网站上发表的一篇长文，标题是《动荡的AI时代已经到来。我们现在所做的选择至关重要》。这个曾二十多岁就喊出"让每个家庭桌上都有一台电脑"的人，这个推着软件产业往前冲了半辈子的技术乐观派，显然是看到了让他害怕的东西。比尔·盖茨到底看到了什么？他在长文中列出了“就业冲击”、“安全威胁”与“认知退化”三

英国央行行长告诉G20：人工智能可能导致全球经济衰退

安德鲁·贝利警告各国，先进的“前沿模型”可能破坏“高度互联”的金融体系。 英国央行行长安德鲁·贝利加入了越来越多警告最先进人工智能技术带来全球风险的人士行列。 在他以国际金融稳定委员会（FSB）主席身份发给各国财长和央行行长的两页信函中，贝利表示，“前沿”人工智能模型“正展现出日益复杂的自主性、解决问题的能力以及威胁能力”。继续阅读...

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

人工智能并不会毁灭人类 但专家表示真正的威胁已然出现

周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网

山姆·奥特曼揭示最让他恐惧的两种AI威胁

OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控

知名投资人指责头部AI企业渲染生存危机 意在通过监管构建竞争壁垒

硅谷知名风险投资人、Palantir联合创始人乔·朗斯代尔（Joe Lonsdale）在接受专访时公开发表犀利言论，指责部分头部人工智能企业通过刻意炒作和夸大AI可能导致“人类毁灭”的末日论叙事，试图借此游说政策制定者出台严苛监管法案，从而构筑有利于现有行业巨头的垄断壁垒。 朗斯代尔创办的8VC是Anthropic等多家AI领军企业的早期投资方。尽管其投资组合中涵盖大量顶尖模型开发者，但他对当前硅

人工智能领袖警告行业应放缓后，股市大跌

美国股市周一未理会人工智能CEO们的警告，这些CEO呼吁放缓开发这项革命性技术的步伐。在交易时段早盘，追踪在纳斯达克交易所交易的100家最大非金融公司的纳斯达克100指数一度下跌1.8%。覆盖面更广的纳斯达克综合指数一度下跌1.3%，标普500指数下跌近1%。 但软件和网络安全类股的上涨推动主要股指脱离低点。截至收盘，纳斯达克综合指数仅下跌0.56%。标普500指数下跌0.48%。 美国总统特朗普

查理斯三世警告AI领袖 吁防「生存危险」免太迟

英王查理斯三世（King Charles III）9月17日在苏格兰邓弗里斯庄园（Dumfries House）会见人工智能企业领袖，警告AI若落入坏人手中将构成「生存危险」，后果可能是灾难性的，呼吁在「为时已晚」前建立足够管控。路透社报道，与会者包括英伟达（Nvidia）创办人兼行政总裁黄仁勋（Jensen Huang）、Google DeepMind创办人兼主席哈萨比斯（Demis Hassa

人工智能安全辩论

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已