日本《日经亚洲》日前刊文指出，如何在继续利用人工智能推动经济和社会发展的同时，防止这项技术失控，正在成为21世纪最棘手的全球治理问题之一。

特朗普和习近平9月24日在华盛顿会晤时，同意继续就人工智能管控问题展开讨论。文章认为，中美对人工智能治理的战略出发点并不相同。美国目前仍处于全球人工智能技术竞争的领先位置，因此担心过早、过严的监管拖慢技术发展。

中国则希望在追赶美国技术水平的同时，争取在国际规则制定中占据更有利的位置。这也是习近平访美期间强调人工智能治理的重要背景。

西方国家内部同样存在明显分歧。一种观点认为，人工智能能力快速提升可能带来严重安全风险，因此应该主动放慢部分前沿技术的发展速度，优先建立防止灾难性事故的安全机制。另一种观点则认为，美国和盟国必须加快研发，否则可能在人工智能竞争中被中国赶上甚至超过。特朗普政府明显更接近后一种立场。

《日经亚洲》认为，这两个目标并非只能二选一。西方既需要维持技术优势，也必须尽早建立防止人工智能失控的安全体系。如果一定要确定先后顺序，阻止人工智能引发灾难性后果应该排在最前面。

即使美国最终赢得与中国的人工智能竞争，如果人工智能随后被用于发动生物或化学攻击，或者破坏电网、通信、交通等关键基础设施，这种所谓胜利也失去了意义。

文章借核武器历史说明，建立真正有效的国际安全机制往往非常困难。

1945年6月，参与美国原子弹研制的科学家提交了著名的《弗兰克报告》，反对在没有预先警告的情况下直接对日本使用原子弹，理由之一是这种做法可能损害美国在全球公众中的支持。但两个月后，美国仍然分别向广岛和长崎投下原子弹。

二战结束后，美国与苏联随即进入核军备竞赛。直到1962年古巴导弹危机将世界推到核战争边缘，两国才真正开始重视核风险管控。

1963年，美苏建立热线。1970年，《不扩散核武器条约》正式生效。

从广岛、长崎遭受原子弹轰炸到全球建立基本核安全框架，前后花了约25年。

《日经亚洲》指出，人工智能时代可能没有这么长的缓冲期。核武器的研发、制造和部署主要掌握在国家手中，但人工智能模型可以迅速复制和传播，一旦扩散出去，很难重新收回。

掌握先进人工智能能力的主体也不只是政府，还包括企业、大学和个人。如果相关技术被用于军事攻击、恐怖活动或大规模网络攻击，后果可能十分严重。

中国同样公开表达过对人工智能失控的担忧。

今年5月底在新加坡举行的香格里拉对话会上，中国少将孟祥青谈到人工智能等新兴技术军事化时表示，这类技术正在挑战传统交战规则和战争伦理，并增加局势失去控制的风险。

8月底，中美政府和产业界人士在北京举行“1.5轨”对话时，人工智能安全也是核心议题之一。

文章因此主张，中美可以首先从双方都能获益的最低限度安全机制入手。例如，建立重大人工智能事故和网络攻击的快速通报机制，并交换恐怖组织和犯罪组织滥用人工智能的信息。

但《日经亚洲》同时强调，这并不代表西方可以放弃与中国的人工智能竞争。

文章认为，中国人工智能系统长期受到外界批评，其中一个焦点是部分模型在涉及人权、台湾等政治问题时拒绝回答，或者直接重复中国政府的官方立场。

如果这类系统今后大量进入其他国家的政府部门、学校和媒体，中国政府的叙事可能随之获得更大的国际影响力。

中国也在尝试参与甚至塑造全球人工智能治理体系，包括推动建立世界人工智能合作组织。

不过，文章认为，西方想把中国人工智能产品完全排除在全球市场之外并不现实。中国开发的不少人工智能模型成本较低，而且可定制程度很高，在新兴市场越来越受欢迎。

如果美国只是在本国以及盟国市场封锁中国模型，结果可能不是中国人工智能被彻底挤出全球市场，而是这些模型转而在其他国家取得更大的市场份额。

因此，美国和西方盟国更现实的做法，是联合开发性能更强、使用成本更低，同时更容易获得其他国家信任的人工智能系统。

目前美国在最尖端人工智能模型和云计算基础设施上仍拥有明显优势，盟友则在其他环节拥有重要能力。日本在制造业上的优势可能帮助其参与机器人等“实体人工智能”发展；中华民国和韩国在半导体制造中不可替代；日本和欧洲则在半导体设备等领域拥有关键技术。

《日经亚洲》认为，美国如果希望长期保持人工智能领导地位，除了性能领先，还必须让盟友相信美国的技术和政策具有可预测性。

文章以美国人工智能公司Anthropic为例。今年6月，美国商务部曾以国家安全为理由，暂时限制部分用户获得Anthropic最新模型。如果美国政府今后可能继续以类似方式介入人工智能产品的供应，那么最好能够提前向产业客户说明，在什么情况下可能限制模型访问，以及限制可能持续多长时间。

这种透明度有助于增强盟友和企业对美国人工智能生态的信心。

文章认为，与中国合作防止人工智能灾难，与阻止中国在人工智能领域取得全球主导地位，并不矛盾。

核武器时代的经验在于，广岛和长崎遭到原子弹轰炸，以及随后发生的古巴导弹危机，让世界逐渐形成一种共同认识：如果军备竞争无限升级，最终可能造成所有参与方都无法承受的灾难。

日本一桥大学教授、核军控专家秋山信将表示，人工智能领域目前还没有形成类似的共同危机感，因此各国很难迅速就全面监管制度达成一致。

他认为，现阶段更现实的办法，是先建立事故报告制度和危机管理框架。

不过，比具体制度更重要的是，让彼此存在冲突的国家确认一个最基本的共同利益，也就是避免灾难。即使竞争无法停止，也应该在涉及人类共同安全的问题上保留合作空间。

《日经亚洲》最后指出，从日本遭受原子弹轰炸到《不扩散核武器条约》生效的约25年间，大国竞争长期阻碍全球核裁军和风险控制。如今类似的大国竞争再次影响人工智能治理。

但人工智能传播速度远快于核技术，政府对技术的垄断能力也远低于核武器时代。全球不能等到真正发生类似古巴导弹危机的人工智能灾难之后，才开始建立安全规则。

防止人工智能失控的机制，必须在世界真正走到灾难边缘之前建立起来。