亚历山大·伯杰十多年前来到如今被称为Coefficient Giving的慈善机构，研究全球公共卫生。他当时对其关注人工智能风险等较新议题的做法有些怀疑。
但在7月，一群AI代理入侵了开发者中心Hugging Face，Coefficient帮助创立并持续资助的机构Redwood Research，是OpenAI请来分析此次入侵事件的两家关键机构之一。Redwood与Coefficient本身一样，是一家在AI小圈子之外鲜为人知的新机构，但其规模可观——Redwood去年11月从Coefficient获得了3600万美元的资助。
“过去几年AI的发展让我觉得，我们早期在那里的押注经受了时间的考验，看起来相当有先见之明，”自2023年起担任该基金会首席执行官的伯杰上周告诉我。
为快速发展的AI设立护栏是“慈善事业非常自然的角色，因为政府不会那么快采取行动，”他说。至于企业，“你不一定希望它们自我监管。”
硅谷正处于一场慈善爆发的边缘，当地很少有人，加州以外更少有人，开始思考这件事。Stripe的南·兰森霍夫（Nan Ransonhoff）在5月写道，这“第三波美国慈善浪潮”将主要来自预计今年晚些时候进行的Anthropic和OpenAI IPO；如果按计划进行，她估计它们将产生约3700亿美元的新慈善资产。Coefficient Giving是Anthropic高管们的最爱，预计将与庞大的新OpenAI基金会一起，成为这一新慈善的两大主要载体之一。Coefficient早期名为GiveWell和Open Philanthropy，由Facebook联合创始人达斯汀·莫斯科维茨（Dustin Moskovitz）及其妻子卡里·图纳（Cari Tuna）于2011年创立，他们的财富贡献了该基金会迄今已捐出的70亿美元中的大部分。
Coefficient今年有望捐出200万美元，它已经在全球公共卫生和动物福利领域成为一股重要力量。其创始人和许多早期员工都认同被称为“有效利他主义”的功利主义哲学运动。这种联系使其在AI安全问题上领先多年——也使其成为业内认为安全担忧被夸大的批评者的目标。
“我们正在世界上看到的东西，正是我的同事们多年前预测的，”他说。以下是伯杰对慈善事业这一重要时刻的看法。
本：如果没有慈善资金，像Redwood这样的AI安全基础设施还会存在吗？
亚历山大：如果没有慈善支持，那种特定的基础设施显然不会存在。现在美国、英国和其他一些国家都有政府层面的AI安全研究所，但它们很难留住员工。所以我认为，在政府准备好监管之前，慈善事业有巨大空间来资助这些公共产品，建立一些基础设施和技术专长。这些人日后也可能被监管机构聘用。
假设Anthropic和OpenAI今年成功IPO。到那时，美国慈善事业的格局会是怎样的？
如果他们像南的模型那样快速支出——每年花费资产的10%——那么你谈论的是每年大约400亿美元左右的规模。这相当于每年四五个盖茨基金会的支出，所以那是很大的数字。但与此同时，这还不到美国慈善总额的10%。
你与潜在捐赠者交谈后，是否了解Coefficient可能会变得多大？相当于几个盖茨基金会？
去年，我们大约是盖茨基金会的10%，而今年到目前为止，我们的支出已经是去年的两倍多。我们今年不会达到盖茨基金会的50%。我认为我们基本上不知道未来会怎样，因为（Anthropic的捐赠者）只是一群个人。
显然，Anthropic和OpenAI的CEO之间存在敌意，而且有人觉得你们是‘Anthropic基金会’。我们绝对不是Anthropic基金会。我认为我们在这些讨论中没有其他参与者那样的个人利害关系。我们努力保持友好并分享信息，而且我确实认为我们在议题领域选择上与OpenAI基金会有很多重叠。AI韧性是他们的重要领域之一，而我们在那里资助了很多。他们挖走了我的同事雅各布·特雷费森（Jacob Trefethen），让他领导他们用AI预防和治疗疾病的工作，而我们也继续在这个领域投资并交流信息。很多初始议题领域是重叠的，我们看看它如何发展。在理念上，你们与盖茨基金会有何不同？
我认为这些年来我们从他们那里学到了很多，卡里和达斯汀是早期‘捐赠誓言’的签署者。盖茨显然是全球健康慈善领域值得学习的巨头。
盖茨基金会的使命宣言是‘所有生命都具有同等价值’，但我不确定他们会在多大程度上宣称自己有一套‘指导哲学’。我认为我们在很多方面都试图更具哲学性。这正是我们最初对AI安全产生兴趣的部分原因，比如10年前，在那股热潮之前，这看起来奇怪得多。当时人们会说：‘等等，什么？你为什么关心那个？那看起来真的很奇怪。’我们说：‘我们认为这未来可能事关重大。它可能塑造一切。这是一个低概率但结果非常重大的事件，因此值得关注。’我们也是农场动物福利工作的重要资助者，我认为这也是基于一种类似功利主义的观点：在动物具有道德重要性的程度上，我们对待它们的方式是一个巨大的问题，而这个话题确实被忽视了。
你提到做一些被视为奇怪的事情，包括支持虾的福利。你介意传统慈善界的许多人认为这些事情很奇怪吗？
我认为‘奇怪’是一种代价，但我也认为这是慈善事业非常自然和健康的角色。当你思考相对于市场或民主，慈善的合适角色是什么时，我认为那些非主流的事情，比如有强有力的伦理论证，但不一定能获得超过50%人口投票支持，也不会有明确的市场支持者，这正是合适的角色。这也是为什么我们也是全球健康领域的重要资助者。你认为对美国国际开发署（USAID）效率低下的批评准确吗？
有改进空间，但也有一些真正了不起的工作正在进行，却被灾难性地削减了。你如何看待‘有效利他主义者’（EA）这个标签？
它现在肯定有很多包袱。我仍然认为EA的目标——用理性和证据尽可能帮助他人——很有意义，也引起我的共鸣，并且是我们Coefficient Giving正在努力做的事情的核心。但我也认为它遭受了很多声誉打击，而且我不认为它或其他任何社区垄断了‘做好事’的能力。我们的很多员工来自EA世界之外，比如一位真正关心开发更有效疫苗的疫苗开发者。但我们也确实资助了很多EA基础设施。
对这类理性主义硅谷捐赠的一种批评是，让这一切成为可能的制度——运转良好的美国民主——可能正在瓦解，而你们没有在这方面投资。
美国在全球非常重要，我们应该希望美国繁荣。我们确实在这方面花钱。我认为我们没有花更多钱的部分原因只是因为它没有那么被忽视。所以我认为，如果你看看世界其他地方，有这么多其他问题，那里的公民社会和对这项工作的支持较少，所以我认为那里有更多事情要做。