纽约——联合国人工智能委员会的多位专家于9月21日警告,反对业内一些专业人士关于AI风险的末世论式言论。
“作为科学家,投资于科学研究、真正弄清我们已知与未知的界限至关重要,而投资于恐惧并无裨益,”Google DeepMind高管、国际人工智能科学小组成员Joelle Barral表示。该小组是一个独立机构。
她是在回应关于近期公众就AI潜在危险发表的言论的提问,特别是Jacob Coxon的言论。
这位前Anthropic员工、曾任职于OpenAI,于9月初表示,AI开发者认为该技术“可能在本十年末毁灭我们所有人”。
一位于7月离开Google DeepMind的研究工程师发表了类似言论,称可能已经“为时已晚,无法避免”人类被AI消灭。
“我们必须改变谈论AI风险的方式,因为很长一段时间以来,要么是生存威胁、一切都将毁灭、杀人机器人即将来袭,要么就是无关紧要,”诺贝尔和平奖得主、调查记者Maria Ressa于9月21日在同一活动上表示。该活动在纽约联合国大会期间举行。“但真相远比这更微妙、更复杂,”她继续说道。
“不能将其变成一种意识形态,我认为(辩论)正朝这个方向发展。”国际人工智能科学小组成立于2025年,成员于2026年2月选定。其使命是推进对AI的科学认知,并为联合国审议提供参考。
被誉为AI奠基人之一、同时也是该小组联合主席的Yoshua Bengio表示,区分科学家实际了解的AI风险与仅能从证据中“合理推断”的内容至关重要——专家们在后者上仍存在分歧。“大声疾呼的问题在于,别人也可以大声疾呼,”他说。
取而代之需要的是“就正在发生的事情进行全球理性讨论,包括对不确定性的讨论,包括对风险严重性的讨论”。