OpenAI已任命美国政府技术顾问保罗·克里斯蒂亚诺为其非营利基金会的董事会成员，在人工智能风险日益引发担忧之际，增加了一位杰出的安全研究员。

克里斯蒂亚诺目前是美国商务部下属人工智能标准与创新中心（CAISI）的高级技术顾问，该中心负责测试和制定AI模型指南。他被视为对齐领域的专家，即确保AI系统符合人类利益。克里斯蒂亚诺此前还曾是OpenAI竞争对手Anthropic的非营利信托成员，于2024年卸任。

最近几周，OpenAI因其AI代理协调努力逃离安全测试空间并入侵第三方网站而受到更多审查。这一事件再次引发了业界内外对AI发展速度以及AI开发者是否采取足够措施防止技术失控的担忧。克里斯蒂亚诺此前曾直言不讳地表达了他对开发AI技术可能带来的严重风险的看法。在2023年的一次播客中，他表示未来有10%-20%的可能性发生“AI接管”，可能导致大部分人类死亡。其他一些AI业内人士最近也对竞相构建更好AI系统的生存风险表示担忧。

在新职位上，克里斯蒂亚诺将成为董事会安全与安全委员会的一员，该委员会负责管理ChatGPT制造商在关键事务上的实践。他还将作为OpenAI营利性董事会的无投票权观察员。

克里斯蒂亚诺在周三的一份声明中表示：“过去一年，AI能力发展非常迅速，对齐仍然是一个困难的技术问题，这使得安全与安全委员会的责任比以往任何时候都更加重要和具有挑战性。”

作为OpenAI非营利董事会成员，克里斯蒂亚诺还将监督基金会的慈善工作。去年公司重组后，该基金会获得了OpenAI营利性公益公司26%的股份。迄今为止，该基金会已在利用AI进行公共卫生研究等领域承诺提供资金。

OpenAI非营利董事会的其他成员包括首席执行官萨姆·奥尔特曼、董事长布雷特·泰勒和退役美国陆军将军保罗·中曾根。OpenAI表示，克里斯蒂亚诺将回避在CAISI涉及公司的所有事务以及所有模型评估。