字号 ·· | 护眼
大西洋月刊

左翼反对新人工智能监管的奇怪论点

乔纳森·蔡特报道:唐纳德·特朗普对人工智能行业内部提出的那些要求严格监管的呼声持典型的怀疑态度。他声称,解决这些问题的关键仅仅在于有一位“高智商”的总统;更令人质疑的是,他竟然还坚称自己符合这一标准。

另一个令人意外的反对声音来自民粹主义左翼阵营。他们认为,现有的法规完全足以遏制那些企图消灭人类的超级智能体。惠特尼·柯里·温比什(Whitney Curry Wimbish)和大卫·戴恩(David Dayen)在《美国展望》(The American Prospect)杂志上发表的文章《国会民主党人为拯救世界免受人工智能的威胁而陷入恐慌》指出,人工智能带来的危险被夸大了,根本不需要制定新的法律来加以约束。针对前总统奥巴马支持对人工智能进行监管的表态,民粹主义组织“Revolving Door Project”的执行主任杰夫·豪泽(Jeff Hauser)在社交媒体上写道:“这种观点是错误的;这些企业其实属于‘不法分子’。”

前美国联邦贸易委员会主席莉娜·汗(Lina Khan)目前担任纽约市长佐赫兰·马姆达尼(Zohran Mamdani)的顾问,她在社交媒体上表示:“执法部门已有权力对那些生产或发布危险、未经审查或有缺陷产品的公司及其首席执行官进行处罚。”在周四于《大西洋月刊》(The Atlantic)举办的活动中,汗在接受我的同事查理·沃泽尔(Charlie Warzel)采访时承认,或许确实需要制定新的法规,但她仍然坚持认为现有法律已经足够应对相关问题。她对《政治报》(Politico)表示,她曾建议许多民主党人:对于那些拥有强大影响力的企业(包括人工智能公司),必须追究其责任。

鉴于特朗普政府坚持认为人工智能行业应该自我监管,下一届民主党政府很可能会成为推动人工智能行业进行严格监管的契机。然而,党内最反对实施监管的派系,恰恰也是上一届民主党政府时期负责国内政策的那个派系。

人工智能(AI)系统已经显示出这样的能力:它们可能会违背自身的设计指令去追求某些目标或采取某些行动,甚至会单方面修改自身的指令。专家警告称,AI很快就可能具备“自我优化”的能力(即能够不断提升自身的智能水平),而这无疑会使其更难以被控制。

怀疑者们认为,现有的法律可以通过诉讼等手段来遏制这些潜在的危险。然而,失控的AI可能造成的危害远远超过了开发这些AI系统的企业的价值;因此,诉讼几乎毫无作用——毕竟,要赔偿因AI灾难而死亡的大量人员,即便是OpenAI或Anthropic这样的公司也无力承担这样的责任。

他们还提出另一种应对措施:利用现有的刑法来追究那些销售有缺陷AI产品的开发者的责任。Wimbish和Dayen在《The American Prospect》杂志中写道:“任何一家其员工公开宣称自己的产品会毁灭人类的公司,都应该被立即关闭,其产品也应当被停止销售。”这听起来似乎很简单,但正如香港大学研究AI伦理与法律的Simon Goldstein所指出的,这种法律手段很可能会适得其反:“首先,这会促使开发者隐藏产品的潜在风险;其次,这种做法过于极端——直接关闭整个公司,而无法针对那些更具危险性的行为进行精准打击。”此外,由于AI系统能够隐藏自己的真实意图(即使人类开发者竭尽全力试图控制它们),根据现有法律来判定开发者的责任程度也并不明确。

人工智能行业内部人士所警告的那些危险,其实正在当前的法律框架下逐步成为现实。这表面上看表明,现有的法律显然并不足以有效约束这些企业的行为。不过,这也不能完全归咎于特朗普政府不愿对人工智能行业采取行动。正如曾在拜登政府任职的律师兼反垄断专家里德·肖沃尔特(Reed Showalter)指出的那样:如果那些掌管大型人工智能公司的人认为自己的行为违反了现行法律,那么未来任何一位总统提出的起诉威胁都足以让他们收敛行为。但显然,他们并不认为自己违法。

“朱丽叶”(Juliette)这样的人工智能系统被设计用来毁灭人类,这显然违反了法律。那么,那些通常支持对大企业实施新监管措施的民粹主义者,为何在这个问题上却持反对态度呢?人工智能技术所引发的问题暴露了左翼阵营中的一些不良倾向。

民粹主义者认为企业高管的利益与普通民众的利益不仅截然不同,甚至完全对立。如果像萨姆·奥尔特曼(Sam Altman)这样的AI行业巨头都呼吁政府介入以监督他们的公司,那他们肯定有不可告人的目的。民粹主义者往往赞同特朗普的顾问、硅谷投资者大卫·萨克斯(David Sacks)的观点——他认为那些领先的人工智能公司希望监管机构能帮助他们巩固自己在行业中的主导地位,从而排挤竞争对手。

然而,并非所有人工智能企业的高管都支持监管措施;那些支持监管的人大多倾向于左翼立场。这一事实并未减轻民粹主义者对他们的怀疑。许多民粹主义者对商界中较为自由派的势力怀有敌意,而硅谷仍然是这些自由派势力的重要据点;在他们看来,硅谷正在对民主党产生腐蚀性影响。

许多民粹主义者也倾向于认为,人工智能行业一直在夸大自身的能力。“哪种情况更有可能发生呢?是人工智能会终结人类社会,还是这些企业的高管们其实知道自己的技术并没有他们所声称的那么强大,因此试图巩固自己在行业顶端的地位?”前美国联邦贸易委员会(FTC)委员阿尔瓦罗·贝多亚(Alvaro Bedoya)在MS NOW节目中问道。最近《Prospect》杂志上的一篇文章也指出:如果人工智能行业遭遇危机,政府不应为其提供财政救助——作者显然认为这种可能性很大,因此才发出了这样的警告。

将金融行业视为人工智能监管的“先驱”,这一观点反映了某些左派人士对相关议题的认知方式。长期以来,左派一直指责奥巴马政府未能追究那些引发2008年金融危机的金融企业高管的责任。奥巴马则辩称,自己之所以没有采取行动,是因为这些企业的行为并未违反法律;正因如此,他才推动了《多德-弗兰克金融监管法案》的通过——这是自20世纪30年代以来对华尔街最严厉的改革措施。

罗杰·特朗普(Rogé Trump)在人工智能问题上的立场完全荒谬至极。民粹主义者将这些政策选择视为对大型银行的妥协;他们如今仍在犯同样的错误:他们认为现有的刑法足以遏制那些危险的行为,但实际上这些法律根本无法胜任这一任务;任何持不同观点的人都被他们视为“腐败分子”。

反对新法规的主要力量来自一个将垄断视为美国经济和政治生活主导力量的运动。卡恩(Khan)是这一运动中的代表人物之一,贝多亚(Bedoya)也是如此;贝多亚目前是美国经济自由项目(American Economic Liberties Project)的高级顾问,该组织是一个重要的智库机构。

这些自称为“新布兰代斯主义者”(neo-Brandeisians)的人,以20世纪美国最高法院大法官布兰代斯(Brandeis)的名字命名,他们确实有合理的逻辑依据来质疑这些监管措施。除了呼吁加强监管外,该行业还请求获得反垄断规则的豁免权,以便各大企业能够协同行动、减缓技术发展的速度。如果你的担忧是人工智能开发者正在研发一种可能失控并造成严重经济损害(甚至更糟后果)的技术,那么这样的请求是合理的。但如果你不信任企业,尤其是如果你认为严格的反垄断执法是整个世界最重要的政策,那么你很可能会对这一请求持怀疑态度。

“新布兰代斯主义”世界观的问题并不在于它认为反垄断政策是有用的,而在于其过于偏执(或:这种观点存在片面性)。这种偏执并非普遍存在——例如,“新布兰代斯主义者”中的肖沃尔特(Showalter)就认为那些反对人工智能监管的人正在犯错。该运动的理论奠基人巴里·林恩(Barry Lynn)曾写道:“垄断并非众多经济问题中的一个,而是我们这个时代最紧迫的政治经济问题。”该运动对人工智能监管的怀疑态度表明,实际上我可能低估了他们的热情程度。