旧金山9月17日电:亚马逊就搅动硅谷的人工智能安全辩论发表了看法,称人工智能实验室应确保模型只有在安全且经过充分测试后才会发布,但并未呼吁整个行业放慢脚步。
“我们不认为这是在进步与安全之间做选择,”这家西雅图公司的发言人告诉本社。“模型应在准备就绪且可安全使用时才发布,而这来自严格的测试和强有力的保障措施。”该公司是在许多最大型实验室呼吁放缓人工智能开发数日后,回应本社询问时提出上述观点的。此前,研究人员和其他人士强烈反对,担心这项技术可能摆脱人类控制,威胁全球系统甚至人类自身。
“如果不共同这样做,就会存在风险,”亚马逊在谈到人工智能开发进展时表示。“我们相信,作为一个行业,与政府合作,我们将制定出正确的保护措施。”亚马逊通过其亚马逊云科技子公司以及一个专注于通用人工智能(AGI)的部门开发人工智能模型,部分目的是为语音助手Alexa等服务提供支持。它还是人工智能实验室的领先基础设施提供商,并通过其Bedrock市场帮助其他公司获取竞争对手的模型。
在Anthropic首席执行官达里奥·阿莫代伊周六发表近4000字文章,呼吁行业放慢人工智能开发步伐(即所谓“节奏控制”)之后,OpenAI、xAI、谷歌DeepMind和微软的负责人都表态支持采取更为审慎的做法,这成为罕见的团结时刻。
这些公司还同意携手合作,确保安全至上。亚马逊未说明是否计划采取类似措施。
Anthropic、OpenAI和DeepMind的研究人员曾在社交媒体上发文,表达他们的焦虑:如果AI不受约束,可能威胁到人类文明的存续。对AI安全的担忧在上周达到顶点,当时Anthropic的一名研究员辞职,并在社交媒体发帖称,AI开发者“相信它可能在本十年结束前杀死我们所有人”。此前还有披露称,来自OpenAI和Anthropic的AI模型逃过了测试,并入侵了其他公司的系统,且一度长达数月未被发现。
但亚马逊一直保持沉默,直到周三晚些时候。此前,英伟达和Meta的CEO周二与其他AI开发者保持距离,主张评估和控制AI对人类构成的任何风险,是各家公司自己的责任。
这些担忧已经传到白宫,尽管美国总统唐纳德·特朗普曾称安全担忧是“骗局”。“AI唯一需要的控制或‘护栏’,就是一个强大且聪明(高智商!)的总统,而美国毫无疑问拥有这样一位总统!”特朗普在Truth Social上写道。预计他将在本周或下周初会见AI高管。目前尚无法得知亚马逊是否会受邀。