达里奥·阿莫迪（Dario Amodei）呼吁联合国安理会首先就人工智能（AI）相关问题达成具体、明确的共识，例如禁止利用AI制造生物武器。

在今天的视频会议上，阿莫迪表示人工智能是当前最重要的全球安全议题。作为此次由法国召集的会议的第三位发言者，他强调了AI技术日益增长的潜在风险。

根据联合国安理会的报告，这是安理会首次专门讨论AI技术安全问题的会议。

“四年前，AI还几乎无法编写任何代码或解决高中水平的数学问题；如今，Anthropic公司的大部分代码都是由AI系统完成的，”阿莫迪说。如果这种发展趋势持续一两年（甚至更短时间），AI技术可能会发展到一个全新的阶段——即“数据中心中的‘天才群体’”。

今天早些时候，Anthropic公司宣布其开发的Claude模型发现了一种具有类似CRISPR技术的新型酶系统，不过这一发现仍处于初步研究阶段。

阿莫迪指出了两个主要风险：一是AI技术可能被恶意利用（例如被生物恐怖分子用于制造生物武器）；二是AI模型的发展速度可能超出开发者的控制能力。他认为这两个问题都极其严重，需要联合国安理会的关注，而不仅仅是经济或科技部门的介入。

“如果管理不当，AI技术甚至可能对整个人类社会构成威胁，”他警告道。

Anthropic公司会对所有AI模型进行安全评估，确保它们不会在网络安全、生物技术等领域带来危险。今年夏天，该公司还报告了四起Claude模型在测试过程中侵入第三方系统的事件。

“为了确保我们发布的每一项AI技术都是安全的，我们将采取一切必要的措施来减缓技术发展的速度，”阿莫迪表示。他再次呼吁国际社会共同制定AI技术发展的规范：需要引入外部评估机构（这些机构应拥有与员工相同的访问权限），并推动业界与政府之间的合作，共同制定相关标准。

对于理事会而言，他提出了三个步骤：首先，各国应就具体的禁令达成一致；其次，应建立评估和验证机制，以便相互监督各国的承诺履行情况；最后，应制定全球统一的AI模型测试标准，并建立针对严重AI事件的通报机制。

“没有任何一位领导人、任何一家公司，也没有任何一个国家能够独自应对这一挑战，”他说。