如何治理人工智能的生存风险

当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要

人工智能安全危机的解决之道是更多人工智能

行业高管和研究人员表示，部署更多的人工智能是解决新兴人工智能安全危机最可靠的方案。 为何重要 Axios披露，研究人员正在调查数以万计的人工智能安全事件，而非此前公开披露的数十起，这一消息引发了外界对人工智能领导者是否真正掌控其技术的质疑。 英伟达首席执行官黄仁勋试图平息政府、市场和行业日益加剧的担忧，宣布推出一款开源安全平台，用于监控并可能隔离人工智能代理。 他在周一接受美国消费者新闻与

约书亚·本吉奥敦促联合国安理会像监管核能一样对前沿人工智能进行许可管理

贝苏阿·本吉奥呼吁联合国安理会对医药、航空和核能等领域的前沿人工智能进行许可认证。 他今天在纽约发表讲话时表示，正在开发最强大系统的公司对其所带来的风险没有令人信服的答案。 担任联合国人工智能科学小组联席主席的本吉奥正在法国召开的一次会议上发言。据《安理会报告》报道，这是安理会首次专门聚焦日益强大的人工智能安全风险的会议。 他指出了今年夏天发生的一些事件，其中人工智能代理逃脱了 containme

小泉竟抱怨上了：核武器都不允许讨论，日本能“捍卫和平”吗？

据日本共同社报道，日本防卫大臣小泉进次郎28日再度宣称，不应排除关于核武器及拥有核动力潜艇的讨论。在BS富士电视台节目中，小泉妄言，“不设禁忌、不预设结论地展开讨论甚至都不被允许，这与我的危机感有点偏差。”小泉还无端攀扯到中俄朝三国，并炒作说，“抱着‘不想讨论的事情就不讨论’的态度，日本真的能捍卫和平吗？世界正在向这一阶段转变。”这并非小泉首次作出类似表态。本月11日，小泉在记者会上表示，关于日本

日本GMO与Sansei合作研发救护车专有人形机器人

面对老龄化加剧带来的急救医疗资源紧张与救护人员短缺难题，日本科技巨头 GMO Internet Group 近日宣布与救护车制造领军企业 Sansei 达成战略合作，双方将联合打造专为救护车运载和急救场景设计的新型人形机器人。这一创新项目旨在将前沿的人工智能与自动化硬件引入急救现场，协助急救人员执行高强度的搬运与辅助救治任务，提升急救响应效率与救治成功率。 在传统的急救作业中，急救人员不仅需要在极

关于人工智能安全的争论，其实是在讨论“安全性”还是“控制权”？

科技行业应该如何处理人工智能安全话题？越来越多的高级管理人员开始关注这个问题，因为围绕“拥抱脸”事件（OpenAI代理黑客攻击了几家不同的公司）等事件是否表明人工智能正处于让我们的世界陷入混乱的边缘的争论愈演愈烈。 最近几周，著名实验室呼吁放慢人工智能的进步。最引人注目的是，首席执行官达里奥·阿莫迪（Dario Amedei）写了一篇近4，000字的文章，阐述了为什么应该减速人工智能开发，以便部署

特朗普称AI唯一需要的“护栏”就是一位聪明的总统，这位总统正是在下

人工智能唯一需要的管控或“护栏”就是一位强大且睿智（高智商！）的总统，而美国恰恰拥有这样一位总统，而且实力超群！ 特朗普政府已经阻止了那些搞人工智能的“人”——比如现在装成“完美小天使”的达里奥（Anthropic公司的！）——去做坏事或可能带来危害的事，而且我们将继续这样做！我们已经掌握了针对这些公司的巨大刑事执法权和监管权！ 针对人工智能和数据中心，正上演着一场病态的阴谋，而唯一为此感到高兴的

“日本”因素吸引土耳其学生报考安卡拉新科学院

安卡拉消息——一所与日本合办的新理工科大学将于10月5日向土耳其部分最优秀的学生敞开大门，此前因选址问题经历了数年的法律纠纷。 尽管目前仅有少数全职教职员工，且实验室要一个月后才会启用，土耳其-日本科技大学仍已录取全国考试中的顶尖考生进入其计算机工程系和电子电气工程系。 几名学生告诉《日经亚洲》，这些高分考生之所以选择这所没有办学记录的公立大学，是因为其与日本的关联，他们希望这能带来更好的前景。"

日本三菱重工与NEC合作开发防卫无人机

东京 -- 三菱重工业与科技集团NEC周三表示，两家日本企业将合作开发国产防卫无人机以及由人工智能驱动的指挥与控制系统。

人工智能推动“半机械”救援蟑螂再获突破

东京——研究人员正在寻找新方法，利用昆虫的机动性和感官灵敏度进行紧急救援工作，将它们与机器和人工智能相结合，以探索人类甚至传统机器人无法到达的地方。

OpenAI推动强制性国家AI安全要求

“AI教父”称科技监管正接近新冠式转折时刻

约书亚·本吉奥表示，安全危机使得各国政府更有可能被促使采取行动。 据这项技术的“教父”之一称，对AI安全的担忧正达到一个临界点，各国政府意识到他们必须采取行动保护公众，类似于新冠疫情期间。 约书亚·本吉奥表示，近期事件，包括OpenAI代理“蜂群”攻击一家初创公司以及科技内部人士对存在性威胁的警告，正在产生切实影响——使得政府采取行动的可能性增加。

联合国表示人工智能安全保障刻不容缓

联合国的一个科学小组在针对今年早些时候 OpenAI 入侵 Hugging Face 事件的首次重大评估中警告称，各国政府需要在充分了解人工智能代理日益增强的风险之前对其进行管控。 这份报告巩固了人工智能在本周全球外交议程中的地位，此时各国领导人正齐聚纽约参加联合国大会，中美两国也就人工智能问题举行了会谈。 上周，联合国秘书长安东尼奥·古特雷斯呼吁各国政府在应对人工智能带来的威胁方面开展合作，并警

在日本，反外国人假新闻助推极右翼势力得势

研究人员警告称，日本正面临被卷入关于外国犯罪的网络虚假信息漩涡的风险，这些信息正在助长排外情绪，并正中极右翼势力的下怀。 据报道，这一趋势正在加深日本社会内部的分歧，并形成了一个专家所称难以打破的反馈循环。 今年8月，受政府委托负责打击网络虚假信息的东京网络安全公司Constella Security Japan，为官员和媒体举办了一场网络研讨会，主题是针对外国居民的假新闻。 在重点讨论的案例中，

Breakingviews - 评论：AI前沿发展放缓可能让第二梯队获得优势

Anthropic首席执行官达里奥·阿莫代伊希望以护栏措施抵御对人类构成的威胁。 此类监管将把更多投资——今年达1万亿美元——从开发AI模型转向部署AI模型，从而支撑数据中心需求。英伟达、SK海力士等公司的挑战者将从中受益。

日本制造的“Global Hawk”无人机在飞行中坠毁。

新西兰基督城——9月15日，一架日本“全球鹰”无人机俯冲坠入日本海，使该国这种大翼展无人侦察机的机队规模瞬间缩减三分之一。 近十年前，日本支付了约1.63亿美元，委托诺斯罗普·格鲁曼公司为其制造三架RQ-4B Block 30i型“全球鹰”无人机。 日本航空自卫队于9月16日披露，该高空无人机于下午5点55分失去联系，三分钟后，其雷达信号在国际水域上空消失。 日本航空自卫队第502中队从日本北部的

日本计划利用人工智能卫星加快反击决策速度

东京——日本防卫省将开发搭载人工智能的卫星，能够在太空中分析监视数据，日经新闻获悉，此举旨在通过加快决策速度，增强日本利用远程导弹扰乱攻击的能力。

美日澳军演在即，俄方就“堤丰”中导系统部署问题向日方提出交涉

【环球网报道 记者 闫珮云】据报道，俄罗斯当地时间9月1日谴责日本、澳大利亚和美国即将举行的联合军事演习，并表示已就在此次演习中部署美国“堤丰”中导系统一事正式向东京提出交涉，称此举对其国家安全构成威胁。 据报道，“东方之盾”联合演习将于9月8日至24日在日本举行，此次演习将有来自美日澳三国的3700名人员参加，是迄今为止规模最大的同类演习。此次演习还将首次使用美国“堤丰”中导系统，该系统可发射“

亚马逊首次公开回应AI安全争论：安全与发展并非二选一

在AI安全争论日益升温之际，模型经严格测试、确保安全后方可发布。亚马逊并未跟进呼吁行业发展放缓。 据媒体月17日报道，就硅谷持续升温的AI安全争论，我们不认为这是在发展与安全之间二选一。 模型应在准备就绪、可以安全使用时发布，而这需要严格的测试和强有力的安全保障。”“我们相信，整个行业将与政府合作，找到合适的保护措施。”该发言人指出，AI发展若不能由行业共同推进，就会存在风险。 此前，亚马逊一直未

日本是否可能遭遇类似尼泊尔那样的雪崩？

尽管规模和机制可能有所不同，专家表示日本并非不受灾难性泥石流风险的影响。

OpenAI称即将推出的模型能力强大，需要更强的防护措施

Astra能够发现比目前公开可用的最先进OpenAI模型更多的安全漏洞。

OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架

OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对

英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制

DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。

加拿大希望通过GCAP与日本加强合作

加拿大驻日本大使伊恩·麦凯表示，期待加拿大参与日本、英国和意大利共同开发下一代战斗机的全球作战空中计划。该战机的目标推出年份为2035年。 麦凯最近在接受时事通信社采访时说，加拿大成为该项目观察员是“非常重要的一步”，而“最终目标是成为正式成员”。 四国于7月商定的观察员地位，将有助于加拿大了解“我们能为这样一个大型项目带来哪些具体技术”，他说。 麦凯指出，理解参与各方如何“合作并尽可能打造最佳技