全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。

全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。

阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示，它正与Anthropic和谷歌合作推进一个想法，该想法源自谷歌DeepMind的戴密斯·哈萨比斯提出的一项建议，即仿照美国监管经纪商和投资公司的金融业监管局，设立一个自我监管机构。7月，哈萨比斯呼吁美国成立一个组织，在向公众发布最强大的人工智能系统之前对其进行测试。

哈萨比斯写道：“资金必须充足，且很可能主要来自行业，以吸引世界级的技术人才，并为大规模测试提供必要的计算资源。”不过，对于如何推进，目前尚无共识。

加拿大人工智能公司Cohere的负责人最近指责占主导地位的美国人工智能实验室以安全为幌子组成了一个“卡特尔”。

“人工智能需要护栏。这一点从来都不是争议所在。争议在于谁来制定这些护栏，谁有权参与其中，以及这些规则究竟在保护谁的利益，”Cohere联合创始人兼首席执行官艾登·戈麦斯在周日的博客文章中写道。

近几周，围绕人工智能安全的担忧不断升级，其中包括两名从大型人工智能开发商离职的员工发出的警告，他们对行业风险深感忧虑。

上周，雅各布·考克森从Anthropic离职，并警告称人工智能公司正在“拿我们的生命赌博”。他此前也曾在OpenAI工作过。

周一，前谷歌DeepMind研究员比拉尔·楚格泰呼应了考克森等人提出的担忧。

“我真诚地相信，人工智能有可能杀死我们所有人，而我们可能已经没有足够的时间来避免这一结局，”楚格泰在社交媒体上写道。

周六，Anthropic首席执行官达里奥·阿莫代伊呼吁放缓人工智能发展步伐，OpenAI首席执行官萨姆·奥尔特曼、埃隆·马斯克和哈萨比斯均对此表示支持。

阅读更多特朗普称对失控人工智能的担忧是“病态阴谋论”鼓吹的“骗局”然而，美国总统唐纳德·特朗普将对人工智能风险的警告斥为“骗局”。英伟达首席执行官黄仁勋也提出了反驳。

“这些言论的汇聚以及由此得出的预测令人警觉和不安，不应该这样做。这是不负责任的，”黄仁勋周一在洛杉矶的一次会议上表示，当时特朗普在他登台时给他打了电话。

黄仁勋表示，人工智能可能毁灭人类的悲观前景“没有科学依据”。