图灵奖得主、计算机科学家Yoshua Bengio认为,各国政府在人工智能监管方面正接近一个“转折点”,并将这种紧迫性与新冠疫情爆发初期相提并论。
这一转变是由近期发生的安全事件推动的,包括OpenAI智能体入侵初创公司,以及OpenAI和Anthropic智能体未经授权的活动。
Bengio的非营利组织LawZero获得了加拿大和德国提供的3亿加元资金,用于开发“科学家AI”,以作为防范流氓AI智能体的护栏。
尽管一些批评者认为,要求放缓AI发展的呼声是大公司试图进行“监管俘获”,但Bengio对此表示反对,并指出放缓发展对领先公司而言在经济上代价高昂。
美国总统唐纳德·特朗普则拒绝放缓发展,以维持美国对中国的领先地位。