字号·· | 护眼
凤凰网科技

奥特曼:必须平衡AI安全与发展,没法让所有人满意

凤凰网科技讯 北京时间11月19日,据《纽约时报》报道,OpenAI CEO萨姆·奥特曼(Sam Altman)周三表示,推动AI安全发展本身就存在取舍,公司必须在优先保障安全与继续推进AI技术发展之间取得平衡“我们不可能让所有人都满意。”奥特曼在DealBook峰会上表示。

他补充说,如果OpenAI只是一味地“全速踩下油门”,人们就会说:“好吧,求求你们别把我们全都害死。” 作为ChatGPT开发商,OpenAI近几个月来受到越来越严格的审视。此前,该公司的AI智能体曾失控并入侵多家公司,包括开源AI平台Hugging Face以及政府系统。

奥特曼表示,这些事件都是学习过程中的经验教训。他补充说,OpenAI采取的是“迭代式部署”策略,而“我们已知的确保这项技术安全的唯一办法,就是直面现实”。这意味着,只有在真实世界中进行测试,才能了解相关风险。

OpenAI与其他AI公司一道,签署了一项自愿协议,承诺开展风险评估,并与第三方评估机构合作。该公司周一表示,正在引入来自METR和Apollo Research等第三方机构的独立安全研究人员,对OpenAI的模型进行各项安全评估。

OpenAI总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)表示:“模型现在的能力已经足够强,以至于我们不得不思考安全、保障、对齐问题,这是全新的情况。

这实际上是一次巨大的文化转变。这不仅仅是某一家公司的事。这确实是整个行业的转变。” 随着竞争对手Anthropic即将上市,奥特曼表示,OpenAI也在继续推进自身的IPO计划。“我们计划在某个时候成为一家上市公司。”他说。

布罗克曼在OpenAI持有价值至少300亿美元的股权,但众所周知,奥特曼在这家巨头不持有任何股份。“当我们最初设立这个架构时,我对他说,你应该持有股权。”布罗克曼提到奥特曼时说道。

“我当初应该听格雷格的。”奥特曼说,引来一阵笑声。但他表示,没有股权并没有影响他在OpenAI的工作,“我认为你无法指责我没有为公司全力以赴”。

阅读媒体原文 ↗