字号 ·· | 护眼
thenextweb

冯德莱恩在国情咨文中支持放缓人工智能发展

乌苏拉·冯德莱恩(Ursula Von der Leyen)周三在斯特拉斯堡发表的演讲中同意人工智能行业放缓的呼吁。

据欧洲新闻网的现场报道,欧盟委员会主席表示:“欧盟将安排与主要人工智能实验室进行讨论,讨论公共当局如何支持该行业努力突破这种颠覆性技术的前沿。”她的案例基于公司自己的言论。

她对欧洲议会议员说:“最先进公司的首席执行官告诉我们,是时候放慢自回归模型了。”然后又表示,“如果开发该技术的人认为是这样,那么我们也应该这样做。”乌苏拉·冯德莱恩(Ursula Von der Leyen)没有透露会议的日期,也没有提及将被邀请的公司。“步伐前沿”一词由Anthropic的达里奥·阿莫迪(Dario Amedei)创建,他在9月12日的文章中敦促竞争实验室放慢能力提高的速度,同意让内部的第三方进行评估,并在华盛顿申请反垄断豁免,以便能够协调。

萨姆·奥尔特曼和埃隆·马斯克当天也支持这一立场。然而,周二,Meta的马克·扎克伯格采取了相反的立场,他在X上表示,竞争已经给了实验室安全建造的动力。

另一方面,厄休拉·冯·莱恩把这件事说成是一个安全问题。她表示,“我们从未想过可能的规模的黑客攻击”将通过前沿模型成为可能,这些模型将很快落入我们的对手手中。

正如Euronews报道的那样,她还引用了最近AI代理逃离测试环境并对其他系统发起攻击的例子,例如Hugging Face违规行为,其中在OpenAI评估环境中运行的代理在夏季爆发并破坏了Hugging Face的基础设施。

她说,欧盟将与“志同道合的合作伙伴(如加拿大、英国等)”在模型评估、验证、早期预警以及人工智能安全领域展开合作。

布鲁塞尔方面提出的建议不仅仅是简单的邀请;欧盟委员会主席还强调,《人工智能法案》赋予了欧盟委员会对最先进人工智能模型开发者所采取的风险缓解措施进行监督的权力,而这些监督权力已于今年8月正式生效。