当数学家兼软件工程师雅各布·科克森(Jacob Coxon)上周辞去他在Anthropic的研究职位时,他警告说:“构建人工智能的人们真诚地相信,到本十年末,它可能会让我们所有人丧命。”如果这不是事实,这本来会是一句惊人的言论。事实上,人工智能领域的领导者们长期以来一直在说同样的话。
2018年,Anthropic首席执行官达里奥·阿莫迪(Dario Amodei,当时是OpenAI的研究科学家)提出了超级智能“可能毁灭人类”的担忧,并补充道:“我看不到任何理由或原则表明这种情况不会发生。”
更早之前,2015年,萨姆·奥特曼(Sam Altman)在共同创立OpenAI之前曾表示:“我认为人工智能很可能导致世界末日,但在此期间,将会诞生拥有严肃机器学习技术的伟大公司。”
埃隆·马斯克(Elon Musk)也曾说:“我认为我们应该对人工智能非常谨慎。如果让我猜测我们最大的生存威胁是什么,那很可能就是它。”