据一位政策分析师称,对人工智能将给人类带来灭顶之灾的担忧,与亿万富翁、民主党巨额捐助者、Facebook联合创始人达斯汀·莫斯科维茨(Dustin Moskovitz)支持的一个被称为“有效利他主义”的“类邪教”慈善运动联系在一起。
针对前Anthropic研究员雅各布·考克森(Jacob Coxon)在X平台发布的辞职声明,位于华盛顿特区的Capital Research Center的调查研究员帕克·泰勒(Parker Thayer)的言论走红,他质疑此次辞职是否是一个旨在影响立法者和人工智能政策的更广泛网络的一部分。
“我今天从Anthropic辞职了,”考克森的帖子写道。“在过去的三年里,我在OpenAI和Anthropic都从事了预训练研究。这两家公司都没有负责任地行事。它们正一路狂奔,奔向能够自我改进的超级智能,并拿我们的生命冒险。”参议员泰德·克鲁兹(共和党,德克萨斯州)和参议员伯尼·桑德斯(民主党,佛蒙特州)等国会高层议员在回应中引用了这篇帖子,并在网上引起了互动。
“这篇帖子看起来是一场非常复杂且资金充足的公关行动的开端,目的是争取支持民主党将人工智能监管至死,”泰耶尔发帖称。“这篇帖子言辞犀利,引人引用,几乎像是专业人士写的。最初引用它的三个账号都在发布后的15分钟内完成了操作。”泰耶尔呼应了白宫人工智能顾问大卫·萨克斯的说法,即对人工智能的担忧被夸大了,并且可能基于政治动机。
“我认为这正在变成一种恐慌,”萨克斯告诉CBS新闻记者乔·林·肯特。“我们正处于选举季,政治人物有动力试图放大恐惧。我认为现在是时候真正冷静下来,理性地看待这个问题了。”参议员伯尼·桑德斯表示,我们必须在为时已晚之前按下人工智能的暂停键。考克斯上周告诉福克斯新闻的布雷特·拜厄,我们“正站在巨大发现的门槛上”,但我们前进得太快了。他强调了适度的必要性。拜厄问考克斯这个问题是否可以解决。
“我认为肯定可以。我认为如果我们真正去尝试,而不是屈服于注定失败的竞赛或傲慢的赌博的必然性,那么我们就能解决它,”他说。“问题并非无法解决。”顶级媒体未能披露谁在资助他们的人工智能记者。据《华尔街日报》报道,考克斯表示,在决定表达他对人工智能发展方向的担忧时,他是独自行动的。
福克斯新闻数字频道采访了泰耶,询问他关于考克斯“复杂”辞职背后协调的理论,而这次辞职又引发了一系列全国电视采访和即时关注。几乎在一夜之间,考克斯的帖子就成为了跨越党派和政治人物(包括总统唐纳德·特朗普和纽约市社会主义市长佐兰·马姆达尼)的重大政策辩论焦点。
泰耶尔并未提出任何关于哪些个人或团体可能与考克斯串通的理论,考克斯本人否认了此类说法。但泰耶尔表示,“人工智能末日论运动”与“有效利他主义”有关,他将这种哲学描述为“邪教般的”。
众议员特德·艾(Ted Lieu)认为人工智能已经过于强大,我们需要一个“终极开关”以防灾难发生。根据有效利他主义中心(Centre for Effective Altruism)的说法,该运动被定义为一个“旨在寻找帮助他人的最佳方式并将其付诸实践的项目”。但泰耶尔指出,尽管这个慈善运动听起来崇高,但硅谷精英以及捐赠和支持“有效利他主义”的成员可能有着更直接的政治目标。
泰耶尔没有证据表明任何与有效利他主义运动有关的个人或团体曾为考克斯辞职的帖子提供公关或其他支持。
福克斯新闻选民认为人工智能监管刻不容缓,将安全措施置于创新之上。莫斯科维茨和他的妻子卡莉·图纳一直是与“有效利他主义”运动相关的组织的财政支持者。
据该组织称,这对夫妇创立了Coefficient Giving(前身为Open Philanthropy),并仍然是该组织的“主要资助者”。图纳担任该组织的总裁。
Coefficient Giving表示,其人工智能工作迅速扩展,2024年承诺投入1.68亿美元用于人工智能安全、保障和领域建设,2025年承诺投入3.51亿美元,总计5.19亿美元。该组织表示,预计到2026年将承诺投入超过10亿美元用于人工智能政策倡导。
在其2021年的一份资助申请描述中,该组织表示,它寻求“资助系数捐赠感兴趣的各个领域的项目和活动——包括有效利他主义、全球灾难性风险、生物安全、人工智能在认识论中的应用、预测以及其他领域。” 福布斯估计身家约100亿美元的莫斯科维茨在2020年至2024年间为拜登-哈里斯竞选活动捐款超过5000万美元,其中包括向未来前进政治行动委员会(Future Forward PAC)捐款4689万美元,该委员会是此次失败的总统竞选活动的主要筹款工具。
特朗普抨击科技巨头,呼吁放缓人工智能发展“谁赢得人工智能,谁就赢得一切!”
周一,美国国防部负责研究与工程的副部长办公室发布推文称:“美国优先,而非有效利他主义。美国将继续在人工智能领域占据主导地位!”至于“有效利他主义”致力于人工智能政策领域的原因,泰耶表示,这种散布恐惧的技巧与民主党传统上宣扬的气候变化论调如出一辙。
泰耶解释说:“他们基本上就像戈尔(Al Gore)等气候变化活动家过去那样,只是做出夸张的末日预测,而不引用大量容易辨别的证据,就期望我们相信他们的专业知识。”
“首先,他们用一堆关于水污染和电价上涨的似是而非的论点吓唬你,而这些论点似乎并不真实,”他补充道。“现在,他们又用数据中心实际用于推出的人工智能来吓唬你。”
泰耶表示,如果人工智能批评者真的害怕潜在的末日情景,他们就会主张彻底消灭人工智能。
相反,他说这是一种增加政府对该行业权力的策略,同时也是为了他们自身的利益,“这样他们就成了唯一被允许建造它的人。”
在2024年发表于Medium的一篇观点文章中,莫斯科维茨指出,他对人工智能可能带来的风险感到担忧,并表示潜在的末日“情况可能会发展得非常迅速”。他写道:“与关于有效利他主义者从事人工智能工作的普遍说法相反,我关注减轻潜在风险的兴趣并非源于对遥远未来的具体预测,而是源于对未来几十年简单的担忧,那时我和我关心的人们仍然活着,能够关心会发生什么。”
美国众议院议长迈克·约翰逊(共和党-路易斯安那州)表示,本周晚些时候或下周可能会在白宫举行一次讨论人工智能政策的会议。特朗普周一也在Truth Social上就人工智能的未来发表了看法。
“那些说人工智能将毁灭世界、数据中心对你们的社区有害的人,就是那些不久前还说世界将因‘气候变化’而灭亡的人。那个骗局从未让他们得逞,现在他们又盯上了下一个。”福克斯新闻数字频道联系了莫斯科维茨、Coefficient Giving 和考克森征求意见。