OpenAI 全球政策主管克里斯·莱恩(Chris Lehane)周二告诉记者,该公司数周来一直与竞争对手 Anthropic 和 Google DeepMind 合作,共同应对人工智能安全问题,这是《华尔街日报》首次报道的。据报道,莱恩正在华盛顿与美国议员合作,处理与人工智能相关的灾难性风险。
此前,Anthropic 首席执行官达里奥·阿莫代(Dario Amodei)于周六发表了一篇题为《人工智能的风险》的文章,呼吁业界共同努力,放缓前沿人工智能的发展步伐,避免灾难性风险。包括 OpenAI 的萨姆·奥特曼(Sam Altman)、谷歌的德米斯·哈萨比斯(Demis Hassabis)和 SpaceXAI 的埃隆·马斯克(Elon Musk)在内的业界人工智能领导者都支持阿莫代文章中的呼吁,奥特曼表示,OpenAI 将效仿 Anthropic,引入第三方评估员来监控公司安全。
周二,莱汉承认,三家公司就人工智能安全问题已进行了数周的谈判。包括奥特曼在内的一些人指出,如果这种协调被发现会抑制竞争,那么这些谈判可能会使公司面临违反反垄断法的风险。阿莫代伊的文章提出了一项狭窄的政府豁免,允许此类安全协调,但据报道,莱汉表示这些公司不需要豁免。
这一消息证实了此前的报道,并暗示这些公司一直在合作。上周晚些时候,奥特曼在接受《财富》杂志采访时暗示,他曾与其他人工智能领域的领导者进行过私人讨论。本周,《信息报》报道称,这三家公司一直在合作建立一个人工智能行业的标准机构——据报道,奥特曼曾告诉员工,这将在没有美国政府支持的情况下进行。
哈萨比斯在七月份呼吁美国成立一个新的标准机构,作为人工智能的监管者,该机构有权审查世界上最先进的模型,并在危险加剧时协调全行业的放缓。
特朗普总统则将安全担忧斥为骗局,并反对收紧监管的必要性,称任何放缓都会让中国在竞争中占得先机。他的主要人工智能顾问大卫·萨克斯(David Sacks)——一位在行业内拥有巨额个人股份的长期投资者——也附和了这一观点,称对人工智能带来的生存风险的担忧被夸大了。
在同一次周二的会议上,莱汉表示,OpenAI支持《FRONTIER法案》中的一项规定,该规定将强制顶尖的前沿实验室允许“独立的验证组织”进入其公司,以确保模型的安全开发。
TechCrunch已联系Anthropic、Google和OpenAI寻求置评。