Meta平台公司首席执行官马克·扎克伯格表示,人工智能实验室应依靠独立评估人员和顾问来确保模型的安全性。
“聘请独立评估人员和顾问是行业最佳实践,”扎克伯格周二在X平台上发帖写道,加入了越来越多科技高管就如何最好地防止AI系统危害人类这一全球辩论发表意见的行列。
一些公司高管表态支持放缓AI发展步伐,并主张共同努力达成共识。扎克伯格写道,Meta自行决定放缓Muse AI工具的工作进度,而非要求同行也先检查各自的进展。
他写道:“Meta推迟了Muse的发布数月,以专注于安全与保障。我们并没有要求其他所有人先这样做,然后自己才跟进。我们只是将其作为日常工作的一部分,因为这对人们和我们来说显然都是正确的做法。”上周末,Anthropic PBC首席执行官达里奥·阿莫代伊发表了一篇3800字的文章,敦促放缓最先进系统的开发步伐,以便研究人员能更好地理解潜在威胁,这加剧了一场关于人工智能经济与安全风险的激烈辩论。OpenAI首席执行官萨姆·奥尔特曼和SpaceXAI首席执行官埃隆·马斯克——他们的公司与Anthropic是激烈竞争对手——对阿莫代伊的言论表示赞同,一位OpenAI高管表示,该公司正与Anthropic和Alphabet Inc.旗下的谷歌在人工智能安全方面展开合作。
扎克伯格发帖标志着这位CEO首次公开介入最新一轮讨论,探讨如何应对不断升级的担忧,此前AI行业高管和全球立法者已纷纷发表评论。周二早些时候,英伟达公司首席执行官黄仁勋也发表了类似言论,称安全应成为开发过程的常规部分,公司可以决定不发布有害的东西。
“安全至关重要,”黄仁勋在Salesforce公司的一次活动上表示。“在很多方面,这是首要任务。然而,安全是一个工程问题。”他说,如果我们到了“公司失控、产品不安全”的地步,“那就暂停一下,确保你做对了。”黄仁勋还驳斥了制定新AI安全法规的必要性,认为市场力量将帮助企业安全创新。
“我们不需要新的法律——我们不需要新的法规,”黄仁勋表示。这位首席执行官补充说,关于人工智能发展要么安全要么快速的看法是一种“错误的选择”。
“你完全可以同时兼顾两者,”黄仁勋在与Salesforce首席执行官马克·贝尼奥夫交谈时表示。“你按照自己的节奏推进,直到你确信自己发布的产品会得到市场的认可。市场力量已经在那里了。”阅读:Anthropic和OpenAI的安全推进可能给竞争对手带来“监管壁垒”。在同一场Salesforce大会上,OpenAI的奥尔特曼同样语气较为平和,称他认为人工智能公司可以安全地开发这项技术,而不会对人们造成重大伤害。
“我对我们公司的能力——我们行业的能力——安全地做到这一点非常有信心,”奥尔特曼说。
尽管OpenAI正与Anthropic及谷歌的DeepMind实验室合作解决安全问题,但阿尔特曼表示,AI公司应能自行安全地改进AI模型。“我对这一问题的表述方式感到失望。”他说。