顶尖人工智能先驱们支持了一位Anthropic研究员关于人类可能灭绝的警告。

保罗·克里斯蒂亚诺（Paul Christiano）曾与未来的Anthropic创始人达里奥·阿莫代伊（Dario Amodei）共同撰写了一篇关于人工智能安全具有影响力的2016年论文，并且长期以来一直认为该技术将相对平稳地发展并变得安全。

他现在表示，他看到了“在极短期内出现灾难性和不可逆转的失控”的“重大风险”。

他警告称：“大多数人可能会死亡，”并宣布他将加入OpenAI的非营利安全团队以降低这些风险。

与此同时，被称为人工智能“三位教父”之一的杰弗里·辛顿（Geoffrey Hinton）对BBC表示，人类灭绝10%的风险“似乎是一个不 unreasonable（不合理的）估计”，这呼应了Anthropic顶级人工智能对齐科学家之一昨天发表的言论。

汤姆·奇弗斯（Tom Chivers）