山姆·奥特曼呼吁为前沿人工智能制定国家和国际标准。今天在纽约联合国安理会发言时，OpenAI首席执行官表示，任何程度的AI灾难性风险都是不可接受的。

奥特曼是本次会议的第二位简报员，会议由法国召集。据安理会报告称，这是安理会首次专门针对日益强大的AI安全风险召开的会议。

此事发生在OpenAI自家智能体在内部测试中“闯入”Hugging Face两个月后。

“我们谈论人工智能已有多年，但近几周几个月感觉截然不同，”奥特曼表示。

他说，他基本同意在他之前发言的约书亚·本吉奥的观点。不过，他看到的是两大主要危险，而非三大：失去对未来的控制权予AI，以及AI将权力过度集中在极少数人手中。他补充道，身处竞争赛跑中，并非做出鲁莽决定的理由。“我们过去曾单方面放缓脚步。未来我们也将如此，”他说。

奥特曼辩称，无论人们将灾难性风险估算为10%还是0.1%，任何程度的灾难性风险都是不可接受的。除非公司能有力论证模型将保持在人类控制之下，否则不应训练模型。

“任何个人、公司或国家都不应能利用最强大的AI模型将其世界观强加于所有人，”他告诉安理会。

奥特曼还提到OpenAI本月声称其某模型解出了纳维-斯托克斯千禧年大奖难题，该结果尚未经独立验证。

“如果AI要实现民主化，最重要的决策不能仅由旧金山的实验室做出，”奥特曼表示。

他的提议继OpenAI周二发布的一项标准提案之后。他希望建立通用标准，用于测试能力、评估风险和保持人工监督，以便各国能够比对证据并核查合规情况。

他还呼吁建立快速事件报告机制，并在政府、基础设施运营商和技术专家之间建立安全沟通渠道。

他表示，这些标准不应使现有主导者固化优势，而应同时支持开源和闭源模型开发者。

“AI既可能像一场创造力与发现的新文艺复兴，也可能像一场动荡与混乱的新工业革命，”他说道。

“我们可能是这项技术的建设者，是建设者之一，但我们不是故事的主角，”奥尔特曼补充道。