字号 ·· | 护眼
连线

华盛顿短期内不会出台人工智能监管措施

但没有理由认为任何一项措施都能赢得白宫或国会山的支持,在唐纳德·特朗普总统对这一想法感到不满后,白宫官员们暂停了创建一个类似于FINRA的监管机构的工作,国会山的议员们提出了相互竞争的提案,但缺乏票数通过。

据知情人士透露,谷歌DeepMind联合创始人黛米斯·哈萨比斯(Demis Hassabis)在7月14日的一篇文章和向高级官员的简报中提出了这一想法后不久,白宫助手最初就开始为与政府有关的人工智能监督机构制定框架。

财政部和白宫科学技术政策办公室设想了一个由领先的人工智能实验室自行监管前沿模型的开发的机构,并制定了一份初步草案,看看如果执行会是什么样子。

但当包括特朗普前人工智能沙皇大卫·萨克斯和Meta首席执行官马克·扎克伯格在内的科技高管齐声得知这一努力时,他们在八月份一一致电特朗普表达反对。该提案此后一直悬而未决。

消息人士称,自那以后,白宫就没有认真考虑任何新的人工智能监督提案,尤其是特朗普最近几天加倍拒绝任何公开的监管,并在最近的Truth Social帖子中称人工智能安全问题是“骗局”。

特朗普的愤怒至少部分源于Anthropic首席执行官达里奥·阿莫迪(Dario Amedei)关于前沿人工智能危险的3,822字信件。一位消息人士称,特朗普的助手认为这激起了焦虑,给政府带来了不必要的头痛--尽管这代表了人工智能圈子内相当温和的立场。

在白宫没有带头的情况下,国会中涌现了几项法案,但由于众议院日历上要到中期选举之后才剩下投票日,而且围绕一项法案也缺乏团结,任何法案获得通过的可能性都非常渺茫。

独立审计师《两党边境法案》是众议院民主党高级党鞭洛里·特拉汉(Lori Trahan)和共和党众议院能源和商务委员会成员杰伊·奥伯诺尔特(Jay Obernolte)今年夏天提出的一项法案,被广泛认为是众议院民主党核心小组内部以及人工智能高管中获得最多支持的法案。

根据起草的内容,该法案将使商务部能够在人工智能实验室中安插审计员,审计员可以报告重大安全事件,并授权政府在模型构成灾难性风险时停止开发。

但尽管得到了OpenAI的公开支持,但由于人工智能加速论者对监管捕获以及国家安全鹰派对中国的怀疑,白宫尚未决定是否支持使用独立审计师的概念。

反对特朗普世界想法的主要论点是,即使审计师确定某个模型是危险的并且需要下线,也不能保证中国也会暂停开发或停止试图逆转前沿人工智能权重。

然后,为了保持领先于中国,将面临巨大的压力,要求取消开发中的任何紧急暂停,从而打破了让审计师推动商务部将模型下线的整个前提。

尽管如此,《边境法案》的主要问题仍然是党派政治。众议院民主党领导助手告诉Inner Loop,即使该法案最终获得足够票数通过,共和党议长迈克·约翰逊也没有兴趣将其提交表决。

两位众议院领导助手表示,为了绕过程序障碍,众议院民主党人正在考虑将该法案的一些人工智能审计条款纳入必须通过的立法,例如为政府提供资金的持续决议。

但目前还不清楚该法案是否有足够的票数。即使在众议院民主党人中,也没有统一的支持;一些关键立法者,例如曾在众议院民主党人工智能委员会任职的新泽西州国会议员乔什·戈特海默(Josh Gottheimer),尚未签署该法案。

关闭开关还有所谓的按钮开关立法,使政府能够强制关闭人工智能模型。该立法得到了两党和两院的支持,但硅谷科技高管对该想法的兴趣不大。

有两个相互竞争的提名转换,一个来自众议院民主党核心小组副主席特德·刘,另一个来自路易斯安那州参议院共和党人约翰·肯尼迪本周提出。

消息人士称,科技领导者对切换法案基本上持矛盾态度,因为人工智能工程师的主要担忧不是模型在观察时表现不佳,而是当他们相信自己未被观察时它们的表现如何,并激励他们采取极端措施来完成任务。

例如,拥抱脸黑客攻击直到事件结束后才被发现。如果终止开关的想法是为了阻止人工智能模型变得流氓,一些科技高管私下向《连线》表示,在损害已经造成后关闭它没有什么意义。

因此,就目前而言,即使有关人工智能模型杀死我们所有人的讨论已经占据了广播电台,但美国政府看起来并不打算对此采取任何行动。至少在事件迫使每个人采取行动之前是这样。

这是雨果·洛厄尔(Hugo Lowell)的Inner Loop时事通讯的一个版本。