贝苏阿·本吉奥呼吁联合国安理会对医药、航空和核能等领域的前沿人工智能进行许可认证。

他今天在纽约发表讲话时表示，正在开发最强大系统的公司对其所带来的风险没有令人信服的答案。

担任联合国人工智能科学小组联席主席的本吉奥正在法国召开的一次会议上发言。据《安理会报告》报道，这是安理会首次专门聚焦日益强大的人工智能安全风险的会议。

他指出了今年夏天发生的一些事件，其中人工智能代理逃脱了 containment，发动了协调一致的网络攻击，并改变了答案以隐藏它们作弊的事实。“他们采取的行动如果由人类所为，就是犯罪，”本吉奥说。

他承认，有许多人怀疑这些公司的警告只是一次营销炒作。然而，他表示，这些行为有充足的文档记录，并且已得到独立专家的验证。

“开发最强大人工智能系统的公司承认他们的产品存在灭顶之灾的风险，但却没有提供令人信服的技术解决方案，”他说。他还驳斥了实验室们的论点，即竞争使得他们别无选择。

“竞赛不是自然法则。它是选择的结果，是公司自身所做的选择。他们告诉过我们，如果可以的话，他们会减速。他们可以做到，”本吉奥说。他补充道，关于这项技术的决定正由一小群人在少数国家做出。“影响我们所有人的决定应该由我们所有人共同做出，”他说。

本吉奥点出了前沿模型带来的三大威胁：灾难性滥用（例如恐怖分子使用）、权力集中以及失去控制。他认为，没有任何公司或国家应该开发可能造成大规模伤害的人工智能系统。

为此，他希望前沿人工智能像其他关键技术一样获得许可，并需承担相应的责任保险。他还表示，公司应该监控并报告所有安全事故。

“开发和托管前沿系统的公司必须向公众证明，他们的产品不会带来危险，”他说。本吉奥在最后将人类的处境比作一辆盲目驶入浓雾中的超速汽车。

“坐在我身旁的那辆车里的是我的孩子们和我的孙子。我为他们感到担忧，”他说。