多年来,各大前沿人工智能实验室一直表现得仿佛正身处一场全力以赴、赢家通吃的竞赛,而终点线就是掌控足以改变世界的机器超级智能(或至少是能改变市场格局的人工通用智能)。本周末,整个行业迅速开始背离这种姿态,转而敦促各方协调合作,放缓前沿人工智能的开发,他们称这类人工智能可能很快就会变得过于危险、过于不可知,从而难以控制。
Anthropic 的达里奥·阿莫代伊(Dario Amodei)站在这场语气转变的最前沿。他在本周末一篇近4000字的文章中主张,“我们必须放慢提升人工智能模型能力的速度”,以避免“由商业激励推动的逐底竞争,使[灾难性]风险变得更加严峻”。几个小时内,其他人工智能领袖也发出了同样的呼吁。OpenAI 联合创始人兼首席执行官萨姆·奥尔特曼(Sam Altman)在社交媒体上发帖表示赞同,并称 OpenAI 内部也在进行类似的节奏讨论。Alphabet 首席科学家、Google DeepMind 联合创始人兼董事长戴密斯·哈萨比斯(Demis Hassabis)表示,阿莫代伊的文章“指出了正确的前进道路”,并再次呼吁他近期提出的建立全行业标准机构的倡议。
Microsoft CEO Satya Nadella posted that the company "welcome[s] the research, focus, and deliberate pacing needed to get alignment right as the design goal," ahead of the release of a lengthy "humanist AI" code of conduct for its models.