OpenAI周一发布了一系列关于前沿人工智能开发中安全与保障的提案，重点聚焦于对齐研究和递归自我改进（RSI）。

该公司在一篇博客文章中表示：“要安全地完成这一转型，对齐研究必须跟上这些能力的发展步伐，以确保我们及其他机构构建的系统始终与人类价值观保持一致，并处于人类控制之下。”

OpenAI呼吁开展国际合作以制定前沿标准，并建议在全球现有AI安全研究所的工作基础上进一步推进。

这家ChatGPT的开发商表示，这些技术标准应聚焦于前沿AI模型和开发者，以及自动化AI研究人员的收益-风险管理，其中包括RSI。

埃隆·马斯克在怪诞联盟频出的一周里大谈AI安全，同时对抗监管；微软的苏莱曼对CNBC表示，OpenAI最新的AI发现是一个“严重情况”；专家在公开信中称Anthropic和OpenAI需要真正独立的安全评估者；在Dreamforce大会上，AI安全辩论遭遇现实，商界领袖称去年的模型已经够用。RSI因其有潜力创造出无需人类参与即可自我升级的基础模型，令AI开发者们兴奋不已。

RSI领域的进展已促使一些技术专家发出警告：随着AI系统变得越来越复杂、在互联网上无处不在，基础模型开发者可能会失去对底层技术的控制，或无法预见潜在的非预期后果。

OpenAI的博文指出：“完全自主的递归自我改进（RSI）目前尚未实现，除非且直到其能够安全地实现，否则我们不应追求它。”博文称：“若缺乏适当的谨慎与小心，RSI可能导致人类失去对AI发展的实际控制权，无法对其已不再理解的研究过程进行监督。”上周，竞争对手Anthropic发布了其关于前沿AI模型安全开发的构想，以回应近期业界研究人员对AI威胁人类安全的连串警告。

曾在Anthropic和OpenAI均任职过的雅各布·科克森（Jacob Coxon）在近两周前宣布辞职，并称这些公司正在“拿我们的生命赌博”，此举引发了全球范围的辩论。请在Google上将CNBC设为您的首选信息源，以免错过这家最受信赖的商业新闻媒体带来的任何重要时刻。