联合国秘书长呼吁协调全球人工智能监管

联合国秘书长安东尼奥·古特雷斯表示，各国必须协调全球监管人工智能的努力，这呼应了在世界顶级人工智能公司领导人发出警告后对该技术进行更密切监控的呼吁。 古特雷斯周三对记者表示：“我们不能忽视人们提出的担忧，特别是那些处于人工智能发展前线的人们提出的担忧。”“我意识到地缘政治分歧及其可能产生的诱惑。但世界承受不起人工智能安全性的竞相竞争。”在他发表上述言论之前，Anthropic PBL领导人达里奥·

气候谈判开幕之际，人工智能与能源冲击加深危机

全球领导人在纽约开启了一周气候谈判，将人工智能、能源安全和可再生能源置于核心位置。讨论凸显了危机的加深：清洁能源虽在增长，但化石燃料使用和资源压力持续上升。 周一，全球领导人开始为期一周的会谈，探讨如何应对日益恶化的气候危机，发言人指出了可再生能源繁荣的前景，以及人工智能和数据中心迅猛崛起带来的风险。 这些与联合国大会和纽约气候周相关的讨论，是在新报告强调挑战规模之际拉开帷幕的。一份报告发现，世界

联合国秘书长呼吁全球合作为人工智能设立护栏

（联合国17日新华电）联合国秘书长古特雷斯周三（16日）呼吁全球协同行动，为人工智能（AI）设立护栏。 在今年联合国大会高级别周开始前举行的记者招待会上，古特雷斯说，人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 古特雷斯说，各国政府首先必须负起责任。由于人工智能发展及其所带来的风险

比尔·盖茨称AI“强大到”足以导致“十亿人死亡”

在接受《会见新闻界》的独家采访时，微软联合创始人比尔·盖茨呼吁政府采取保障措施，以应对人工智能带来的风险。

格思里谈及与中国的AI竞赛时表示：“我们绝对不能投降”

众议院能源和商业委员会主席布雷特·格思里周三表示，他认同人们对人工智能日益增长的力量存在严重担忧，但他警告称，不应采取那些他认为已抑制欧洲技术进步的严格监管措施。 这位肯塔基州共和党人在华盛顿举行的POLITICO解码峰会上表示：“如果你想说，‘我们只是要把这件事交给房间里少数受过精英教育的人……好吧，欧洲就是这么运作的。’”他补充说，这样的体系会赋予少数领先的AI开发商不成比例的监管权力，并限制

中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险

来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响

关键领导人就人工智能发出警报。伊朗与海湾地区外交遭遇挫折

一些人工智能公司的关键领导人呼吁放缓人工智能的发展。随着阿曼会谈推迟，伊朗与海湾地区的外交遭遇挫折。

美国AI巨头提议开发减速，欧洲同行和政界并不认同

英国央行行长告诉G20：人工智能可能导致全球经济衰退

安德鲁·贝利警告各国，先进的“前沿模型”可能破坏“高度互联”的金融体系。 英国央行行长安德鲁·贝利加入了越来越多警告最先进人工智能技术带来全球风险的人士行列。 在他以国际金融稳定委员会（FSB）主席身份发给各国财长和央行行长的两页信函中，贝利表示，“前沿”人工智能模型“正展现出日益复杂的自主性、解决问题的能力以及威胁能力”。继续阅读...

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

Anthropic 和 OpenAI 的负责人将向联合国发表讲话

Anthropic 和 OpenAI 的负责人将于今日向联合国安理会进行简报。 尽管他们呼吁放缓人工智能的发展，但这与更关心赢得人工智能竞赛的超级大国利益相冲突。 分析人士认为，华盛顿和北京不太可能在会谈中就限制该技术的广泛协议达成一致，但其他国家仍在努力推进：英国计划将其 G20 主席国任期的重点放在人工智能安全上。这一议题使世界产生了分歧。 一位谷歌高管告诉 Semafor，全球南方国家对人工

比尔·盖茨称，仅为人工智能设置“关闭开关”还不够

微软联合创始人比尔·盖茨在 NBC 周日播出的采访中，呼吁对强大的人工智能系统实施强制监控。 随着立法者讨论如何监管人工智能带来的风险，盖茨表示，仅要求人工智能具备“关闭开关”并不足以防止人们利用这项技术发动袭击。 这位微软联合创始人周日接受了 NBC《 Meet the Press》节目的采访。他说：“‘关闭开关’这个东西有点奇怪。仅仅有一个关闭开关是不够的。” 他说：“我们还没有走到那一步——

联合国大会：内塔尼亚胡、阿巴斯将发表讲话，中东问题主导当日议程

乌克兰总统弗拉基米尔·泽连斯基将该国当前面临的战争归咎于俄罗斯总统弗拉基米尔·普京，称普京为“这场战争的始作俑者”。他还宣布与芬兰和澳大利亚签署了新的国防合作协议。 另一方面，叙利亚领导人艾哈迈德·沙拉呼吁以色列结束对戈兰高地的占领，称该领土属于叙利亚。 西班牙首相佩德罗·桑切斯也向以色列表达了批评，要求以色列停止在加沙地带实施的“种族灭绝”行为。 这些表态都是在以色列总理本雅明·内塔尼亚胡将于周

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

中国回应AI“放缓论”倡多边主义 学者指中美AI合作需剥离战略竞争

美国科技界、政界围绕人工智能（AI）安全管控一事持续激辩，中国外交部星期二（9月15日）对此再度回应说，AI发展和治理需要践行真正的多边主义，仅靠个别国家或企业难以形成行之有效的解决方案。中国官媒《环球时报》此前发文批评“AI放缓论”是瞄准中国的“冷战剧本”。 受访学者认为，人工智能体（AI Agent）可能成为中美科技竞争的新前沿。中国愿参与AI安全治理，但反对与“威胁叙事”相联系。中美未来在A

“人工智能教父”谈人类生存的最大机会

“AI教父”认为人类该何去何从：把聊天机器人当药品管，别当核武器管文 / 汉娜·罗辛自2023年离开谷歌以来，诺贝尔奖得主、公认的“AI教父”杰弗里·辛顿，或许最为人所知的身份是：对自己助推诞生的技术发出严峻警告的人。他说，“人类有可能只是智能演化过程中的一个过渡阶段”，他已意识到“存在发生真正糟糕事情的危险”，并且“人工智能在几十年内导致人类灭绝的概率为‘10%到20%’”（尽管被追问时，他会承

【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作

【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。　　在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位

比尔·盖茨警告称，人工智能“强大到足以引发导致十亿人死亡的事件”

比尔·盖茨对人工智能可能被滥用深感担忧。这名微软联合创始人在接受美国全国广播公司《Meet the Press》采访时，就这项技术发出严厉警告，称“人工智能的威力绝对足以推动一些事件，最终造成十亿人死亡。”盖茨还表示，该行业需要政府监管。他说：“你需要执法部门和政治人物参与讨论，明确安全保障和监测机制应当采取什么形式。”盖茨的言论与Anthropic首席执行官达里奥·阿莫代伊的观点不谋而合。阿莫代

人工智能领域的专家表示，仅靠一个“终止机制”（即能够关闭失控的超级智能AI系统的装置）是远远不够的。

人工智能失控。它正在发动毁灭性的网络攻击。按下杀死开关，AI就会离线。问题解决了或者是吗？人工智能领导者和研究人员表示，致命开关可能不是一些政策制定者所希望的灵丹妙药。被称为“人工智能教父”的计算机科学家杰弗里·辛顿周四告诉美国有线电视新闻网：“我认为从长远来看这是行不通的。”“当它超级智能时，它会比人好得多，”他补充道。“因此它将能够说服负责开关的人不要拉动开关。“研究人员和高管警告说，强大的人

特朗普淡化AI风险后，联合国秘书长发出警报

联合国秘书长安东尼奥·古特雷斯周三警告世界各国领导人，快速推进的人工智能构成不容忽视的风险，这使他与总统唐纳德·特朗普意见相左，特朗普认为现有保障措施已经足够。

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

特朗普告诉联合国，人工智能需要重塑形象

今天是星期二，正式迎来了秋天的第一天！华盛顿特区的天气似乎终于“明白”了秋天的到来——天气变得凉爽多了。大家快去庆祝吧，顺便尝尝那些已经上市好几周的南瓜香料拿铁吧！今天的新闻要点包括： 特朗普在联合国大会上的讲话； 关于格陵兰岛的谈判； 约翰·柯蒂斯（John Curtis）的来信； 杰弗里斯（Jeffries）对戈尔登（Golden）和劳勒（Lawler）的批评； 哈里斯（H

人工智能安全辩论

联合国秘书长呼吁达成AI协定以防止杀人机器人出现

联合国秘书长加大了对AI监管的呼吁，以避免一个企业权力猖獗和杀人机器人肆虐的反乌托邦未来。 安东尼奥·古特雷斯利用他在联合国大会上向世界领导人发表的最后一次讲话，对AI的危险发出警报，认为前沿模型的飞速发展有可能削弱民族与国家。“我们正在目睹一场非同寻常的权力转移，从政府转向少数私营公司和个人，”古特雷斯周二说，同时呼吁就新的AI保障措施达成国际协议。 “AI正以非凡的速度向前推进，并远远超前于我