20个国家的领导人和代表于周一下午发表了一份声明,呼吁加强对先进人工智能系统的监管。该声明由芬兰总统主持发布,指出人工智能技术的快速发展以及近期人工智能系统违反安全规定的事件表明,国际社会需要加强协调。声明强调:“人工智能必须始终处于人类的指导、监督和控制之下,并且其研发与应用必须符合国际法。”美国、英国和中国等主要国家的代表并未签署这份声明。该声明发布的前一天,联合国大会的高级别全体会议即将开幕,来自世界各地的政治和商业领袖将齐聚纽约,讨论未来的合作计划和优先事项。签署该声明的国家领导人包括加拿大总理马克·卡尼、肯尼亚总统威廉·鲁托、荷兰总理罗布·杰滕、澳大利亚总理安东尼·阿尔巴内塞以及南非总统西里尔·拉马福萨。此外,还有多位政府官员也签署了这份声明,其中包括土耳其外交部长哈坎·菲丹和阿拉伯联合酋长国副总理兼外交部长谢赫·阿卜杜拉·本·扎耶德·阿勒纳哈扬。声明提出了三项主要行动建议:首先,要求企业在系统公开部署前对其安全性进行测试,并允许独立评估机构对其运营方式可能带来的风险进行评估;其次,呼吁各国政府及地区组织制定统一的安全标准,以确保全球各国能够利用必要的科学专业知识来评估人工智能系统的安全性。
第三,该声明指出联合国成员国应充分利用现有的国际努力,并“探索建立一个新的国际机构,该机构能够制定标准、进行监督,并在相关国家的技术能力达到一定门槛时召集各方进行讨论”。AI治理非营利组织“The Future Society”的执行主任尼克·莫斯(Nick Moes)对这一声明表示赞赏,认为这是各国希望加强AI领域协调的明确体现。他告诉NBC News:“这么多国家共同呼吁建立这样一个国际机构,确实是个好消息——因为没有任何一个国家能够独自完成这项任务。”他补充说:“但仅仅发表声明是不够的,还需要调动外交、政治和财政资源,才能实现他们所认为的必要变革,从而确保对前沿AI技术的发展保持控制。”在联合国大会上,AI将成为官方讨论和众多侧会议的焦点;各国领导人将致力于制定AI发展的议程、吸引投资,并确保本国在AI相关讨论中发挥重要作用。联合国安理会和美国代表将于周三分别举行专门讨论AI问题的会议。目前已有若干致力于AI发展及监管的国际组织,但这些组织的职责范围和技术深度各不相同。联合国还设立了“独立国际AI科学小组”(Independent International Scientific Panel),该小组由来自世界各地的数十位科学专家组成;此外,还设有“全球AI治理对话论坛”(Global Dialogue on AI Governance),作为各国讨论AI监管与协调的平台。