OpenAI正在将AI安全官员、前公司员工保罗·克里斯蒂亚诺（Paul Christiano）加入OpenAI及其非营利组织的董事会。

原因：此举正值AI领袖们发出警告，称该领域的进展正在超越保持AI系统安全的能力。

推动因素：克里斯蒂亚诺曾担任联邦政府AI标准与创新中心的高级技术顾问，并且是Alignment Research Center的创始人，该中心是一个旨在确保AI继续支持人类利益的非营利组织。

他将加入基金会董事会的安全与安保委员会，与主席齐科·科尔特（Zico Kolter）合作。该董事会负责监管这家营利性公司的安全实践。

克里斯蒂亚诺于2017年至2021年在OpenAI工作，负责领导对齐研究，在被称为“基于人类反馈的强化学习”（RLHF）的训练方法方面做出了基础性工作。

他们怎么说：OpenAI董事长布雷特·泰勒（Bret Taylor）在一份声明中表示：“保罗通过严谨且专注于日益强大的系统所提出的最棘手问题的工作，帮助定义了AI对齐领域。”

克里斯蒂亚诺表示：“过去一年，AI能力发展非常迅速，对齐仍然是一个困难的技术问题，这使得安全与安保委员会的责任比以往任何时候都更加重要和更具挑战性。我很高兴加入团队并提供帮助。”