由 Charlie Warzel 撰写。随着“流氓”AI 代理入侵系统,领导人警告灾难,谁应承担责任?前FTC委员Lina Khan认为美国已经拥有许多必要的监管工具。
以下是Charlie Warzel的访谈记录。今天我们在Galaxy Brain节目中,将讨论到底该如何应对那些声称其产品可能会杀死我们的AI公司。幸运的是,我有一位非常合适的人来讨论此事——纽约市经济发展公司董事会主席,也是乔·拜登政府下前FTC主席Lina Khan。但先说一点背景。
就在一周多前,Anthropic的研究员Jacob Coxon辞职并发表了一篇文章,他指出AI公司没有认真对待安全,正“把我们的生命当作赌注”。他过去三年一直在研发的产品已经失去控制,未来可能会“终结人类”,他表示。 他的警告与AI高管、研究人员、论坛上的有效利他主义者以及湾区末日论者们在过去十余年里焦虑地发布和撰写畅销书的内容不谋而合。
但Coxon的警告做到了其他警告所未能做到的——它突破了封锁,点燃了全国性的讨论。关切的立法者呼吁召开紧急AI会议;奥巴马总统发表意见;Sam Altman、Anthropic CEO Dario Amodei、Google DeepMind董事会主席Demis Hassabis以及SpaceXAI创始人Elon Musk达成罕见共识,呼吁放慢AI发展。唐纳德·特朗普则将AI恐慌称为“骗局”。事态发展迅速。但有一点是,AI安全讨论正以全球规模在业内人士和普通人之间展开。
关于这些人工智能公司的威胁,人们提出了无数疑问:这种威胁到底有多真实?这仅仅是炒作,还是人工智能公司为了营销而制造的噱头?无论我们对这些公司的实际风险持何种看法,我们都必须思考该如何应对。这些公司本身呼吁建立监管框架,并要求对他们的算法模型进行独立审计;但并非所有人都相信他们的诚意。这一切真的是技术进步的体现,还是这些公司只是在试图争取更有利的政策环境,从而巩固自己的虚拟垄断地位?换句话说,他们的所有言论都是真诚的,还是他们在试图夺取更多权力?
那么,人工智能公司的监管应该是什么样的呢?为什么目前没有人追究这些公司的责任?我们是否需要制定新的法律?或者,我们应该更好地利用现有的法律来规范他们的行为?历史上有哪些类似的案例可以参考?我们究竟是处于一个未知的领域,还是只是面对一场以异常速度和规模发生的普通危机?
莉娜·汗(Lina Khan)多年来一直在研究这些问题,尤其是它们与硅谷科技巨头之间的关系。在担任美国联邦贸易委员会(FTC)主席期间,她推动了反垄断执法方式的变革,认为传统的美国竞争法律已经过时,无法有效规范数字平台的行为。
上周末,当关于人工智能的争论仍在激烈进行时,莉娜在社交媒体上发文指出:监管措施应当考虑到“执法部门已经拥有权力,可以起诉那些开发并发布危险、未经审核或有缺陷产品的公司及其首席执行官”。那么,在当前这个人工智能发展的关键阶段,具体的执法措施应该是什么样的呢?我们接下来应该怎么做呢?周四上午,我在纽约的大西洋节(The Atlantic Festival)上与莉娜·汗进行了对话。以下是我们的谈话内容。感谢大家的到来,我非常感激。也感谢莉娜能来到这里。莉娜:很高兴能来到这里。
我想直接切入正题。我们在这里的时间有限。我想从过去一周左右在科技界和政界引起广泛关注的新闻开始谈起,也就是人工智能研究领域的吹哨人发出的警告称,人工智能代理可能失控并“消灭我们所有人”。萨姆·奥尔特曼、达里奥[·阿莫代伊]、埃隆·马斯克等人呼吁放慢开发速度,引述他们的原话是“放缓前沿探索”。你最近在 X 平台上就监管角度发表了看法。但首先我想问的是,你认为为什么这种安全恐慌现在会集中爆发?
嗯,我认为在过去的几年里,我们其实已经看到了这种苗头,你知道的,各种关于这些工具未来发展的预测。而且肯定存在各种拐点,这些公司的内部人员看到了他们可能会形容为某些能力出现质的飞跃的情况。似乎就在最近,代理基本上变得更加明显地出现缺陷的例子越来越多了。有些人可能会称它们为失控,它们确实超出了人类为它们设定的参数范围。所以这似乎成了最新的催化剂。
但我想,你知道的,过去几年里背景音一直不断,包括我在联邦贸易委员会(FTC)任职时,当时我们已经开始面对的,与其说是诸如“我们是否会看到人类灭绝?”这类关乎生死存亡的问题,不如说是更实际的问题,比如这些工具已经如何影响人们的日常生活?我的意思是,对于大多数美国人来说,他们与人工智能交互的方式是通过聊天机器人寻求客户服务,结果却陷入了某种死循环。对吧?所以我认为这种现象有很多种表现形式,而且我认为监管政策的讨论可以在整个范围内展开。
我认为,部分担忧也来自这样一种想法:这些公司训练出的模型,也就是为许多聊天机器人提供支持的模型,它们本身非常——它们是这个黑箱的一部分。对吧?比如,我们并不真正确切知道,在权重、训练等所有方面,究竟是什么被输入其中。当你在联邦贸易委员会任职时,当这一切都还非常年轻、非常新的时候,你对这种透明度以及我们无法看到的东西,有什么样的感觉?
我的意思是,有大量我们看不到的东西,这并不是执法者或监管者与公司之间关系中所独有的,但在这种背景下,确实显得更加尖锐。但是,你知道,我们当时已经遇到了黑箱算法。当真正导致各种类型产品被展示或不展示的其实是算法时,执法者该怎么做?这对我们现有的法律又意味着什么?
我确实认为,我们看到的一种模式是,每当一种新技术出现时,各个时刻都会出现一种冲动,想要围绕它制造某种例外论,尤其是相对于现有法律和法规而言。所以,当我在政府任职时,对我来说非常重要的一件事,就是非常明确地表示,现行法律中没有任何对人工智能的豁免。而且我认为,即使现在,围绕新监管的讨论中也能看到一种倾向,似乎假定这些当前的发展发生在某种法律真空中。而这是完全错误的。
就像,你知道,如果你在这些公司中的一家工作,你仍然有现有的义务要遵守,你知道,消费者保护法、反歧视法、反垄断法、产品责任制度。所以我在对话中试图纳入的部分内容,就是这种认识:我们可能想要讨论新的规则和法规。我认为有充分的理由这样做。但让我们不要忘记,现有的法律义务绝对适用。而我们从这些公司及其高管那里听到的一些内容表明,这些公司本应已经承担的法律审慎义务并没有被履行。
你为什么认为这个行业里的每个人都在表现得——甚至,你知道,一些政客也在表现得——好像这些公司是被豁免的?原因是什么?
这是个很好的问题。我的意思是,我认为其中一部分绝对可以追溯到这些公司自己如何营销其能力。而当出现推动监管的呼声时——我的意思是,我们甚至在,你知道,围绕加密货币的语境中见过这种情况,当时有人推动说,嗯,现有的证券法不适用。而且,看吧,有时候你需要深思熟虑地考虑新产品和新服务如何融入现有法律体系。
但让我感到不安的是,当我们看到有人暗示,因为某样东西太新了,就可以对现有法律要求享有某种一揽子豁免或一揽子免责。我认为,你知道,我们需要有一个推定,一个强有力的推定,即所有现有法律都是充分的并且适用,而举证责任应当落在新来者身上,让他们实际证明为什么他们可能需要某些调整,而不是反过来把默认设定成另一种样子。
你发帖时有一个回应,我想是在周末,大致谈到了这个想法:让我们记住,我们有现行法律,这些公司并不能豁免——但我认为有一种感觉,有些人认为,仅仅讨论新的监管,是不是只是在分散当下的注意力?你知道,我确实觉得情况就是如此,因为当政府试图监管社交媒体公司时,人们希望有一些新的范式,或者一种真正适合这些公司正在做的新事情的监管。那么,我们是不是也需要为人工智能建立新的框架?
我们最终完全可能会认定,我们确实需要一些具体的东西,但我认为,非常精确地指出我们现有法律或现有监管制度究竟在哪些地方存在不足,是很重要的。你知道,在这种情况下,似乎在这些产品进入市场之前,在训练本身期间就有一些活动,你会看到员工说,你知道,这正是我们真正需要更多监督的地方。你知道,令人纠结的是,其中一些建议似乎更偏向于自我监管或自愿合规。或者也许我们有这些第三方审计机构,但彼此之间关系非常密切。这些具体技术也许是新的,但经济监管有着悠久的历史,一直可以追溯到铁路、电信。当然,这些都是不同的工具和技术。但关于什么有效、什么无效,有着重要的经验教训。
即使在引发其中一些近期讨论的那篇博客文章中,那位首席执行官也提到银行监管是一种可能的类比,也就是基本上让政府人员更紧密地嵌入银行内部,以试图评估某些类型的风险。所以我认为,有一长串历史上的工具值得我们挖掘,以弄清在这里什么才是合理的。
但我确实认为,当前这场讨论中存在一些明显的不合理之处:一方面,这些公司宣称他们正在开发的技术和工具可能会带来灾难性的后果;另一方面,他们却同时准备上市,甚至希望一夜之间成为亿万富翁或万亿富翁。如果将这些情况应用到其他任何行业,我们都会觉得这简直荒谬至极。因此,我们需要用清醒的眼光来看待这种对人工智能的过度夸大(即“AI例外论”)。
是的,我记得在 Dario Amodei(Anthropic 的首席执行官)表示“在未来六到十二个月内,机器人集群有可能接管整个互联网”三天后,他还曾在 Salesforce 公司工作,该公司主要提供 B2B 软件服务。如果真的认为人类即将面临灭绝的威胁,那么他的这种言论就显得非常奇怪了……关于 OpenAI 的那次事件(其中某些模型黑进了 Hugging Face 的网站),我想听听你的看法:这些模型的行为确实与开发者的预期不符,但它们确实黑进了那个网站。你认为 OpenAI 应该为此承担法律责任吗?
这是一个非常有趣的问题。并且有一整套法律可能都适用。但具体说到《计算机欺诈与滥用法案》(这是一部刑事法规)时,刑事处罚是适用的。有人曾因违反该法规而入狱。你知道的,通常需要找到一个意图的要素。所以,你知道的,人们提出的一个问题是:好吧,那么对于模型来说,拥有意图是什么样的?你真的能把这一点归咎于公司吗?我认为这也回到了那个基本问题,即什么是本来可以被合理知晓的。而且我认为,随着我们获得越来越多的信息,似乎这不仅仅是一起孤立的事件。
事实上,已经发生了一系列事件,在这些事件中,模型最终的表现方式是个人所不希望或预见不到的,并且可能已经构成了犯罪。因此我绝对认为,在某个时间点上,如果你意识到你的技术和你正在研发的模型具备这种能力(因为你看到了),并且你继续允许它们以这种方式行事,我认为这里存在一个非常现实的问题,即关于意图以及该意图在何时应该真正被认定。
是的。如果你在创建这些模型时,让它们尽可能地具有协作性、狡猾性、智能化以及具备出色的解决问题能力,这算不算是有意图?
我认为这里另一个问题是,你知道的,这里可用的很多信息都来自这个被称为 METR 的组织,该组织由——监测组织之一组成。
这些监督组织其实更像是一些民间志愿团体,他们在没有任何监管权力的情况下开展相关工作。因此,他们所能获取的信息范围也是有限的;他们的报告通常仅局限于对相关模型的审查。但我认为,我们需要从更宏观的角度来审视这个问题:人类当时究竟知道些什么,或者本应知道些什么;而企业又究竟应该采取哪些措施来阻止或限制某些不当行为?不过,目前很多情况仍然很模糊不清,因为这些报告的关注点确实非常具体,仅限于模型本身以及相关算法的运作机制。因此,我们确实需要一个更全面的视角——不仅仅依靠这些志愿性的监督活动,还需要法律执法部门的介入以及更严格的监管措施。
你在社交媒体上发表了相关观点,大卫·萨克斯(David Sacks)作为特朗普政府时期的AI事务负责人,他的投资者们公开表示赞同你的立场;随后我看到很多人在评论区使用了表示“不赞同”的表情符号。从某种程度上来说,这确实有些讽刺:萨克斯本人一直主张加速AI的发展,而他的政府也曾忽视了对相关行业的监管,甚至拆除了许多原有的监管机制。那么,这是否也意味着AI正在扰乱一些传统的政治联盟呢?这种可能性确实存在。其实这种情况并不新鲜;早在几年前,当我们讨论如何应对谷歌、亚马逊和Facebook等企业所拥有的巨大权力集中问题时,就已经开始出现类似的迹象了。
我的意思是,你知道,早在2019年的时候,我曾在众议院司法委员会的反垄断小组委员会担任工作人员,当时我们正在对亚马逊、脸书、谷歌和苹果进行调查。而且,你知道,我们曾遇到过这样的情况:委员会中最激进的成员提出的问题,听起来与委员会中最保守的成员提出的问题非常相似,因为他们,你知道的,都对权力的过度集中感到深深的担忧。因此,众议院进步核心小组和众议院自由核心小组,你知道,实际上在其中的某些议题上进行了密切合作。
我认为我们在上一届政府期间看到了一些这种两党合作的裂痕。但我认为这一次我们看到这种合作完全陷入了自由落体状态,正如你所指出的,因为特朗普政府做的第一件事之一,不仅仅是叫停现有的调查。他们实际上还去废除了已经与其中一些公司达成的和解协议。因此,你知道,我们在执法方面看到了真正的无序混乱,以及极度放松管制的姿态。政府效率部(DOGE)的行动基本上,你知道,促成了行政部门国家的解体。
因此,你知道,虽然每当有一大群人愿意支持我认为正确的立场时,我总是会感到受到鼓舞,但我认为,对于那些曾极力主张摧毁政府的人现在却转而说“其实,现有的法律是存在的,而且,你知道,我们需要政府来执行这些法律”,人们难免会对此感到有些困惑。
我看到了一些关于这个AI时刻的争论,被框定为灭绝与监管俘获之间的对立。而在监管俘获方面,我们如何避免这一刻变成这些公司主导对话的局面,对吧?就像我们现在看到的语言,他们出来使用这个短语“把控AI发展的前沿”。现在每个人都在谈论把控前沿。看起来,他们非常擅长设定我们所有人参与的术语。我很好奇,我们如何避免监管俘获的问题?
是的。我的意思是,这里有一个漫长的历史,关于监管者如何被俘获以及如何不被俘获。其中一些取决于你如何设置监管。它是否设计成让被监管方和政府之间有很多亲密关系?你设置了什么样的保障措施?
我认为,如果不谈论金钱和政治的作用,以及涌入我们选举的巨额资金最终也会产生影响,那就太短视了。你知道,那些可能更支持监管AI或监管加密货币的人必须牢记,如果他们站出来支持这个,他们会看到一大笔资金涌出来反对他们。
所以我觉得这也是这里的一个核心动态。我认为当我们思考“我们在这里应该做什么?”时,国会绝对需要思考它如何才能培养更多的技术专长,以便弄清楚这里的正确机制是什么?我认为大家也看到了,几十年来,一直有一个一致的项目在限制国会这样做的能力。我的意思是,这可以追溯到1994年的金里奇革命,当时各方都在积极努力地削减委员会的工作人员。过去曾有一个技术评估办公室,国会过去在内部拥有自己的技术专长,而其中很大一部分都被解散了。
所以我的确认为,当前围绕“我们该如何应对人工智能?”的讨论发生在一个这样的时刻:我们看到了治理能力和治理容量的全面退化正在缓慢而持续地发生。正因如此,我们面临的挑战才更加严峻。
如果你现在回到联邦贸易委员会,如果你当时掌舵,当你看到政客们被这股热潮真正调动起来时,你会采取哪些具体的切实步骤?当你看到公众情绪发生变化,而且我认为,当《纽约时报》、《大西洋月刊》以及其他所有地方的头版头条都充斥着关于人类灭绝的头条新闻时,人们理所当然地感到非常担忧,你会怎么做?
是的。我的意思是,有几件事。我确实认为,一些已经报道过的内容以及已经公开的信息,非常值得展开调查并发出传票以收集更多信息,其中一些信息将用于调查是否存在不正当做法——在这里,“不正当”是一个法律专业术语——即公司基本上让人们、让公司暴露在不合理的风险水平之下,从而导致了真正的损害?
我认为这个行业还有一个非常有趣的特性:它具有高度的相互关联性。在 Hugging Face 事件公开后,首先发生的就是 Nvidia 准备以数十亿美元的价格收购 Hugging Face。这引发了一个有趣的问题:毕竟 Hugging Face 是在 OpenAI 事件中受到损害的一方,理论上他们完全有权利提起诉讼;但一旦 Hugging Face 成为 Nvidia 的内部部门,Nvidia 的利益诉求就会发生变化——他们自然不会再去追究 OpenAI 的责任了。相反,我们看到 Nvidia 的首席执行官对相关情况表示怀疑,甚至将这种质疑称为“危言耸听”。
这个行业的这种高度相互关联性值得我们深入理解与分析:大量的合作伙伴关系、复杂的利益交织,以及一家公司的成功直接关系到另一家公司的财务状况——这些因素都值得我们仔细研究。我们正在进行的一项调查就是针对这些合作伙伴关系进行的,目的是弄清楚:这些合同的具体内容是什么?各家公司声称自己投资后能获得什么回报?当大型云服务提供商(如 Nvidia)向模型开发公司进行大规模投资时,这些投资是否附带某些影响公司业务策略的权利?这些因素都可能对市场竞争产生重要影响。因此,这里确实有很多值得探讨的问题。
我认为,从对人们日常生活产生的实际影响来看,也有很多值得关注的地方。所以,你知道,我们已经看到一些私人对聊天机器人提起的诉讼,因为,你知道,家属称这些机器人的行为导致他们的孩子自杀。目前这里还有各种案件正在进行中。其中许多案件是在产品责任框架下提起的——也就是说,基本上指控这些是有缺陷的聊天机器人;这些是有缺陷的产品,给人们及其家庭造成了严重伤害。
还有一个问题是基本侵权法和过失问题。这些公司本应设置某些保障措施却没有设置,是否存在鲁莽的漠视?所以我认为,从执法角度来看,有很多值得探讨的地方。其中一些案件是私人提起的。但到目前为止,你知道,我们看到总统发推文说,我们不需要任何新法规。我们有现有的执法,但是——辟谣者。
辟谣者。而相反,我们看到的是,你知道,实际上刑事起诉和调查处于历史最低点。
所以,这场人工智能安全讨论——部分将其框定为“机器的存在性崛起”、“人类将被消灭”之类的事情——我认为我担心的是,它正在掩盖许多对人们的个人伤害,比如工人们正在经历什么,比如正如你所说,像英伟达这样的公司导致的行业整合正在发生什么。你觉得这种灭绝框架是不是毫无帮助,因为它确实掩盖了所有这些?比如,我们放任许多这些真实的——我们在争论这些东西有多强大,而与此同时,由于这些算法、这些产品,强大的事情正在当下发生。你觉得这是不是一种烟幕弹,我们应该更多关注当下正在发生的伤害?
我绝对认为我们应该更多关注已经正在发生的现有伤害。而且,你知道,围绕可负担性有一场更广泛的讨论。我们都知道,美国人在生活成本危机方面确实感受到了压力,在支付房租、购买食品杂货方面承受着巨大压力;医疗保健成本飞涨。而这有时发生在一个与这场讨论完全不同的领域。
但实际上,有一些关键方式和关键领域,我们在人工智能上看到的情况可能确实在加剧生活成本危机。你知道,我们已经看到一些公司在使用这些人工智能工具时进行监视定价,基本上就是根据他们所知道的你的痛点来专门提供价格。我们在工人方面也看到了类似的工资管理算法。这也可能基本上压低工人的收入。所以,你知道,我认为这些工具已经在日常意义上以一整套方式伤害着人们。我们绝对需要对此给予更多关注。
你知道,我认为在灭绝这个问题上,以及真正的危害是什么,我更倾向于采用风险评估的框架。在这些公司工作的人所知道的信息,与我们作为外部人士、监管者或执法者所知道的信息之间,存在着巨大的信息不对称。所以我认为我们需要评估这种风险,获取更多信息。如果需要采取一些措施来防止更多这类模型存在如此严重的缺陷,我认为我们绝对需要看到这些措施落实。
一些AI首席执行官提出了一些具体的想法,达里奥是其中那个——他喜欢写超长的博客文章。也许这些想法还不够具体,但看起来比马克·扎克伯格和Web 2社交媒体巨头们要具体得多,那些人基本上就只是说“监管我们吧”,对吧。还有嵌入公司的独立监督员,以及放缓速度的想法。你觉得他们表面上提出的这些东西是好主意吗?
我认为其中一些要素应该被考虑。我的意思是,我认为这个问题,就是“我们有银行监管这种长期存在的制度”应该被摆上桌面。再说一次,我认为很多关键都在于细节——你如何构建这个体系,其中多少只是自愿性质的,还是你实际上有义务提供信息、提供完整的信息?如果你真的违反了某些程序,会有什么后果?
我认为,确实存在这样一种可能性:某些机构或个人会刻意将相关责任结构设计得毫无实质意义、形同虚设,从而逃避真正的问责;而另一些机构则会努力构建真正有效的责任机制。因此,在这种责任结构的设计上,选择哪种方式至关重要。不过,这一切其实都取决于谁在主导这场讨论、谁真正掌握着决策权。我认为这里存在明显的不对称性——公众和政府的反应往往都处于被动、反应性的状态,而这可能会带来严重的后果。
这些人工智能(AI)公司的首席执行官们有一个不同之处:他们中的许多人长期以来一直非常关注这些问题。当然,他们并非专门致力于研究人类文明的灭亡之类的问题;但他们确实对这些潜在风险抱有严重的担忧。我只是好奇:既然这些公司一直都强调自身的安全性,我们是否真的可以相信他们的担忧是真诚的?
老实说,我并不认为我有责任去了解他们的真实动机。不过,从这些公司中离职的员工们的表现来看,他们似乎确实非常认真、非常担忧这些问题。那么,一个问题就是:当一个人的经济利益与他们的言论(无论是公开表达的还是私下持有的观点)发生冲突时,他们还会坚持自己的立场吗?如果他们真的相信自己公司的行为可能会带来如此严重的危害,那么公司内部难道不应该采取更极端的措施来阻止这些行为吗?
你知道,我认为那篇博客文章的一个回应是,绝对没有什么能阻止你放慢这些模型开发的步伐,而且你实际上并不需要反垄断豁免。对。我认为正是那个呼吁反垄断豁免的请求让很多人警觉起来,因为它暗示,也许他们所要求的是某种监管豁免,并转移人们对以下事实的注意力:这些公司确实拥有全部权力和能力去做他们说需要做的事情。
你在写作和谈论这件事时做得很好的一件事,就是进行历史类比。我觉得在这个时刻,现在有这么多人在谈论那些关乎存亡的事情,显得很奇怪。所有这些让新闻周期的节奏快得疯狂。你能不能给我们大家提供一些历史类比,让我们可以抓住它,觉得这更像是一种正常的产业危机,而不是某种异常的事情,只是也许以异常的速度展开?
是的。我的意思是,我想保留这样一种可能性:也许这里确实有些不同。并不是说类比能让我们一路走到终点,但我认为,如果你回头看看铁路的出现,那绝对是事实:当铁路开始在全国范围内互联互通时,曾发生过一些重大铁路灾难,导致很多人死亡。汽车也是如此。还有各种各样需要制定的汽车安全法规。
这样一种想法:你有一种新技术,诚然,它可以带来很多好处,但如果不加以谨慎管理并配备大量保障措施,也可能造成很多危害——我们过去已经遇到过这种情况。而且我们已经对企业本身施加了义务和要求,以确保它们不会只是把可能带来灾难性后果的新技术放任到野外。
所以我觉得这正是我们需要回归的对话部分,即摒弃这种人工智能的例外论,以清醒的眼光去思考:我们是如何面对以往的技术的?我们是如何减轻其风险的?我们有哪些现有的政府监管机制,以确保我们看到的不是各大公司无拘无束地推出所有这些产品,然后让公众在高管和个人变得腰缠万贯之后被迫在后端去收拾烂摊子?而且哦,到那个时候,他们还会把所有的财富倾注于去阻止这些监管。对吧?我认为这是一个我们已经见过的循环,包括在 Web 2.0 时代,这是我们非常需要防范的。
所以我们拥有比我们想象的、或者比那些实验室所说要更多的控制权。
是的,绝对如此。我的意思是,这部分可以通过现有的政府机构来实现,哪怕它们目前的职能已经被削弱。国会还可以做更多的事情,甚至从监督和信息收集的角度来看也是如此。如果导致这种不对称对话的部分原因是公众和政府处于巨大的信息劣势,我认为国会有机会去索取这些信息。
我觉得这是一个很好的结束话题的地方。莉娜·汗(Lina Khan),非常感谢您。非常感谢。
如果你喜欢这里的内容,《Galaxy Brain》的新节目会在每周五发布。你可以在《大西洋月刊》的 YouTube 频道、Apple、Spotify,或者你现在收听播客的任何平台上收看。如果你想支持这项工作以及我同事们的工作,你可以订阅这份刊物。非常感谢,我们网上见。