这篇文章由纽约市美国民主社会主义者协会(NYC DSA)的技术行动工作组撰写,该工作组专注于为该分会(全美最大的分会)处理技术监管问题。这篇文章在Instagram上获得了超过2.5万个赞。但并非所有人都认同这一观点。一条评论写道:“这种观点既可怕又危险。”另一条评论则写道:“有时敲响警钟是合理的。”随着政客们争相了解人工智能安全问题,美国左翼内部正出现意识形态分歧。其核心争议之一是:是否应该相信科技公司声称其产品强大到足以毁灭世界的说法。
一些左翼人士质疑,将关于人工智能的理论担忧置于实际危害之上是否有价值。他们认为,重复前沿实验室宣传的关于人工智能危险的说法,实际上是在为人工智能公司赋能,将人们的注意力从监管该技术当前的危害转移到了一个虚无缥缈的未来。
“人工智能已成为资本主义剥削的最新工具。不受监管和被滥用的人工智能已经在全国范围内造成了明显的损害,”技术行动工作组成员艾伦·邓(Alan Deng)告诉《连线》(WIRED)杂志。“作为社会主义者,我们不相信这些公司会制定出对自己有效的监管措施。”但其他人则追随美国左翼非官方领袖伯尼·桑德斯(Bernie Sanders)参议员的方向,他热情地投身于人工智能安全议题,并断言人工智能有可能消灭人类。他们认为,完全有可能同时解决人工智能带来的所有危害——无论是正在发生的还是未来可能发生的。
“那些关注边境治理和超级智能发展的人,也在努力应对当前由人工智能带来的各种危害,”从事人工智能问题研究的民主党策略师亚历山大·麦考伊(Alexander McCoy)说道。“我们必须全面考虑所有这些重要因素。人工智能确实具备强大的能力,而且这种能力还在不断增强;这些能力并非虚假的或只是炒作而已。”
在过去的一年里,桑德斯(Sanders)全力投身于人工智能安全领域的讨论,将原本仅在旧金山湾区(Bay Area)进行的讨论带到了华盛顿,并将其观点传播给了他庞大的民粹主义支持者群体。这位85岁的政治家很早就开始反对数据中心的建设——数据中心一直是左翼势力的重要组织核心——并公开呼吁人们关注人工智能可能带来的各种危害,包括失业问题以及人类面临的生存威胁。他于3月提出的数据中心建设暂停法案明确指出,只有通过联邦立法来规范数据中心的建设,才能“保护人类的未来”。桑德斯在这个问题上的立场使他与一些不同寻常的盟友建立了联系,其中最引人注目的是史蒂夫·班农(Steve Bannon)——唐纳德·特朗普总统的前顾问、一位右翼民粹主义播客主持人。他的行动似乎也激发了全国各地左翼候选人的行动:许多候选人将人工智能相关的问题与对数据中心的争议联系在一起。9月9日,在纽约DSA(Democratic Socialists of America)发布相关声明的前一天,六位隶属于“工作家庭党”(Working Families Party)的候选人(其中四人得到了桑德斯的支持)发表声明,呼吁华盛顿政府加强对人工智能的监管,以防止其对人类构成生存威胁。
然而,桑德斯的这些举措也引发了公众和内部的批评。人工智能研究者、科技行业批评者蒂姆尼特·格布鲁(Timnit Gebru)指责桑德斯及其左翼同僚“受到了某些末日论者的影响”,这些末日论者信奉极端利他主义和理性主义哲学,而这些哲学观念正是硅谷人工智能安全讨论的基础。同时,桑德斯的行动也在某些左翼圈子里引发了内部争议。
“我们中的一些人看着伯尼(Bernie),心想:到底发生了什么?”一位拥有技术背景的纽约市民主社会主义党(DSA)成员告诉《连线》杂志。
非营利组织“人道智能”(Humane Intelligence)的首席执行官兼创始人鲁曼·乔杜里(Rumman Chowdhury)理解民主社会主义党工作组所表达的担忧。乔杜里曾领导推特(Twitter)的机器学习伦理、透明度与问责团队,他认为人工智能安全讨论所引发的所有关注,最终将对前沿实验室产生益处。
“(这些公司)通过发表极其极端的观点,攫取了所有的注意力、时间、精力和金钱。但随后,他们实际上又退回到了我们所处的立场,同时却对我们的专业知识不屑一顾,”她说。“我认为普通人很难理解风险投资家和这些投资者的思维方式。这些首席执行官把公司描绘得越可怕、越离奇,投资者就越想参与其中。”
对于人工智能公司——尤其是计划在未来几年上市的 OpenAI 和 Anthropic 而言——目前对其产品的高度关注和审视从长远来看也可能是一种福音。“首次公开募股(IPO)的一部分工作是分享大量关于风险以及如何应对风险的尽职调查文件,”乔杜里(Chowdhury)说。“这样一来,他们就可以说,他们参与建立了一套完整的行业监管制度来防范最严重的风险,而且我们都已经明确界定了什么是‘最严重的风险’。”
普拉加蒂·巴鲁苏布拉马尼安(Pragathi Barusubramanian)是纽约市美国民主社会主义者协会(NYC DSA)技术行动工作组的成员,也是该组织反数据中心运动的领导者。今年早些时候,该组织通过帮助纽约州通过了一项为期一年的暂停令,取得了重大胜利。巴鲁苏布拉马尼安认为,在关于究竟什么才是最紧迫的、需要监管的人工智能相关危害这一话题上,可能存在脱节。“当谈到实地发生的情况时,”他们说,关于生存风险的讨论“根本就不会出现”。相反,他们表示,“人们普遍认为,人工智能和数据中心公司并没有把我们的利益放在心上。”正在为几位国会候选人提供人工智能咨询的麦考伊(McCoy)断言,左翼阵营的实际领导者在这一问题上并没有真正的分歧。麦考伊指出,包括纽约市议员佐兰·马姆达尼(Zohran Mamdani)在内的几位美国民主社会主义者协会成员,最近都针对考克森(Coxon)的警告和 Hugging Face 的黑客攻击事件发表了声明。
麦考伊认为,像格布鲁(Gebru)这样持有类似观点的批评者“属于边缘群体,他们的观点并不具有代表性;而且,坦率地说,他们提出的这种区分其实毫无必要。我们应该关注诸如监控系统、‘Flock’摄像头这类问题,以及其他重要的议题。当然,这些问题的讨论绝不能妨碍我们对前沿人工智能技术的发展进行监管。”隶属于左翼人工智能安全组织“Irreplaceable”的执行主任菲尔·阿罗尼亚努(Phil Aroneanu)表示,他作为气候活动家的经历影响了他对人工智能监管问题的看法。他认为,既要解决人工智能当前已经造成的危害,也要防范其未来的潜在威胁——这是既必要又可行的。麦考伊曾与“Irreplaceable”共同创立该组织,并为该组织提供了初始资金(这些资金来自“人工智能安全中心”)。他举例说:“化石燃料开采对环境造成的直接影响、气候变化引发的洪水灾害,以及那些关注人工智能长期风险与排放问题的社会运动,其实都属于同一类问题。”
桑德斯(Sanders)与纽约州众议员亚历山德里娅·奥卡西奥-科尔特斯(Alexandria Ocasio-Cortez)在人工智能监管问题上似乎也存在分歧。虽然她共同提出了桑德斯提出的数据中心禁令法案,并在她的法案中加入了有关“人工智能威胁人类安全”的相关条款,但她并未参与桑德斯所参与过的那些备受关注的人工智能安全讨论。尽管桑德斯将人工智能称为“人类历史上最具变革性的技术”,但奥卡西奥-科尔特斯目前关于人工智能的言论主要集中在数据中心以及该技术可能对就业造成的影响上;她还担心人工智能行业正在形成一种“信息孤岛”(即信息交流受到限制的现象)。
上周,当记者问及人工智能安全问题时,奥卡西奥-科尔特斯(Ocasio-Cortez)给出了一个谨慎的回答。她表示“两件事可以同时成立”,并指出人工智能“如果在没有任何护栏的情况下发展,可能会非常危险”,同时警告称“我们可能会目睹经济泡沫与技术前沿发生碰撞”。
随着华盛顿和全国各州议会关于安全的讨论迅速升温,左翼阵营面临的终极问题不再是是否支持人工智能监管,而是该运动应将时间和资源投入到哪些具体的监管措施上。当(Dang)在接受《连线》(WIRED)采访时表示,美国民主社会主义者协会(DSA)技术工作组支持“在联邦、州和城市层面进行全面的人工智能和技术监管,在应对前沿模型监管的同时,也要反击企业人工智能目前已被滥用的方式。”
与此同时,目前提交给DSA的一项大会决议提议,组织应支持桑德斯(Sanders)和众议员格雷格·卡萨尔(Greg Casar)提出的全面禁止超级智能的法案——这显然是前沿实验室绝不会同意的。而且,当选民拥有发言权时,DSA内部的任何意识形态顾虑可能都无关紧要。周三发布的一项Politico民调显示,三分之二的美国人认为人工智能“毁灭人类”至少存在一定的风险。
巴鲁苏布拉马尼安(Barusubramanian)表示,至少有一点让他们感到欣慰,那就是“大家现在都在讨论人工智能”。