OpenAI首席执行官表示，要同时规避这两种风险，需要在行动过快与权力过度集中之间走一条“狭窄的中间道路”。

这位企业家表示，萨姆·奥尔特曼呼吁“放缓”人工智能的发展，并不意味着要停止AI进步。相反，这位OpenAI首席执行官希望构建先进AI模型的公司放慢脚步，以便安全与监控系统能够跟上。

OpenAI公司首席执行官萨姆·奥尔特曼表示，AI带来两大主要风险。他还指出了AI的两大风险——人类失去对AI的控制，以及过多权力最终集中在某一个人、某一家公司或某一个国家手中。

此前数日，奥尔特曼、埃隆·马斯克和Anthropic首席执行官达里奥·阿莫代伊呼吁AI公司“放缓前沿”日益强大的模型的开发步伐。

“当我们谈论‘放缓’时，我们并不是指‘停止’。进展一直很迅速，并将继续如此，”奥尔特曼在X上写道。他补充说，人工智能的发展应该比原本可能的速度更慢，因为评估、监测和“安全案例”等安全措施需要时间和资源。

“放缓完全值得付出这一代价；任何美国竞争压力都不应成为鲁莽行事的理由，也不应让能力发展超前于对齐和监测，”奥尔特曼说。

奥尔特曼警告人工智能的两大风险 奥尔特曼表示，关于人工智能安全的辩论涉及两大风险。第一个风险是人类可能失去对日益强大的人工智能系统的控制。

“这是不可接受的；我们毫不含糊地站在人类这一边，人工智能必须始终服务于人，”他说。他认为，安全和对齐技术必须始终领先于人工智能能力的增长。

他说，第二个风险是权力过度集中。奥尔特曼警告称，一个由个人、公司或国家控制的极其强大的人工智能系统，可能会让该实体将其世界观强加于他人。

奥尔特曼所说的“调节”人工智能是什么意思？奥尔特曼表示，其理念是确保人工智能能力的发展速度不超过人类理解和控制相关风险的能力。

他说，OpenAI现在会在一些预计将显著提升模型能力的“前沿强化学习运行”之前，准备明确的安全案例。该公司将继续在发布模型之前开展已经进行的安全工作。

另见 |__AI“末日论”：为何达里奥·阿莫代伊、萨姆·奥尔特曼和埃隆·马斯克担忧“超级智能” 奥尔特曼还支持使用独立审计机构来评估AI系统，并表示企业应针对失准、监控和安全等领域制定共同标准。

他表示，早先的安全框架，包括负责任扩展政策和准备框架，主要是围绕已完成模型的部署而设计的。奥尔特曼说，业界现在需要的工具，也要能应对能力日益增强的模型在开发过程中的安全问题。

奥尔特曼支持联邦AI安全规则 奥尔特曼表示，OpenAI支持一项联邦框架，为美国的前沿AI公司建立一致的安全要求。

他说，企业不应等到立法出台后才改进安全实践。“我们欢迎建立一个联邦框架，为前沿人工智能设定一致的安全要求，”奥特曼说，并补充道，该行业可以自行开始为人工智能安全提供更大的信心。

他说，美国政府还需要在国际协调方面提供帮助，因为人工智能的发展并不局限于一个国家。

_上述言论之前，Anthropic首席执行官达里奥·阿莫代伊曾详细呼吁放缓前沿人工智能模型的发展。在他的文章《我们必须放慢前沿步伐》中，阿莫代伊表示，人工智能公司需要给安全系统更多时间，以跟上快速提升的能力。

He proposed independent evaluators with employee-level access to AI companies, industry-wide coordination and international cooperation. Billionaire Elon Muskalso backed the call. “Dario is right,” the xAI owner wrote on X. Altman then said he agreed with Amodei that the industry needed to “pace the frontier” and indicated that OpenAI would also support independent safety evaluators. Microsoft CEOSatya Nadella also backed the push for safer and more broadly distributed AI development. Nadella said any pursuit of superintelligence must ensure that AI remains “helping humanity and under human control”. OpenAI, Anthropic and xAI are competing to develop increasingly powerful AI systems.通过《印度斯坦时报》新闻编辑部，关注来自印度及世界各地的最新突发新闻、重大进展和议程设置报道。该新闻编辑部全天候运转，汇集经验丰富的编辑、记者和通讯员，就影响公共政策、治理、商业、社会和国际事务的各类议题，提供快速、准确且具有背景脉络的报道。《印度斯坦时报》新闻编辑部报道政治、选举、政府政策、经济、商业与市场、科学与技术、环境、法律与秩序、基础设施、教育、气候议题和地缘政治，同时密切跟踪各邦、机构和全球各国首都的动态。该团队还主导对重大突发新闻事件、政策公告、法庭程序、自然灾害、公共紧急事件以及重大国际动态的报道。

新闻编辑部发布的报道基于记者实地采集的信息、官方声明、政府机构、法院记录、监管备案、受认可机构及其他权威来源。每篇报道都经过编辑审查和核实流程，以确保准确、公正且切题，并会随着事态发展和更多信息出现而更新。无论是报道新德里的一项关键政治决策、影响数百万人的经济政策转变、一项具有里程碑意义的法院裁决，还是重大全球事件，HT 新闻编辑部都旨在为读者提供可靠、以事实为基础的新闻报道，不仅呈现最新进展，还提供理解其更广泛影响所需的背景和分析。

获取来自美国、英国、巴基斯坦、孟加拉国、俄罗斯等国家的最新世界新闻、突发头条和全球动态。通过《印度斯坦时报》关注重大国际事件。

收起