过去一周，人工智能领域发生了引人瞩目的事件。上周二，一名研究人员从Anthropic辞职，称人工智能公司“正一路冲向可自我改进的超级智能，拿我们的生命当赌注”。一名Anthropic的在职员工对此表示认同，称他认为人工智能在未来10年内导致人类灭绝的可能性超过10%。

随后在周六，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁放缓人工智能的发展，以便安全措施能够跟上技术的步伐。他的竞争对手萨姆·奥尔特曼和埃隆·马斯克都支持这一想法。

加里·马库斯是一位认知科学家、人工智能专家，著有包括《》在内的多部书籍。他经常对人工智能行业的说法持怀疑态度，但他在达里奥·阿莫代伊的文章中看到了一些他喜欢的内容。他加入我们，谈论为什么这场讨论现在发生，人工智能到底有多危险，以及我们应该怎么做。

如需《Front Burner》的文字记录，请访问 io/frontburner/transcripts，或在您最喜欢的播客应用中收听。在Spotify上收听 在YouTube上收听