字号 ·· | 护眼
政治报

何来人工智能的紧迫性?业界与领导层在如何应对先进技术的威胁上意见分歧

立法者、科技高管和行业专家在POLITICO Decoded峰会上的对话表明,在解决人工智能潜在的生存风险方面达成共识还有很长的路要走。

人工智能行业巨头在解决人工智能对人类的潜在威胁方面似乎存在分歧。

在OpenAI,Anthropic和Elon Musk在呼吁减缓人工智能进步的四天后,一群行业领袖和立法者周三在POLITICO的解码峰会上就如何监管这项技术达成了共识-尽管大多数人都同意这是一项应该有人领导的任务。

人类政策负责人Sarah Heck拒绝支持OpenAI前一天支持的国会授权的独立人工智能监控提案。进步党众议员格雷格·卡萨尔(德克萨斯州民主党人)主张对该技术进行强制限制并成立一个联邦机构来监管该技术,而众议院能源和商务主席布雷特·格思里(肯塔基州共和党人)表示速度不如政策正确重要,两人在美国人是否应该关心击败中国的问题上发生了分歧。

前白宫人工智能和加密货币沙皇大卫·萨克斯(David Sacks)希望美国保持对中国的领先优势,他指责“媒体行动”在民选领导人中引发了对人工智能的恐慌--他赞扬唐纳德·特朗普总统抵制了这一趋势。

人工智能开发人员和政策制定者对于如何积极监管这个行业仍然存在很大分歧,安全倡导者和行业高管多年来一直警告该行业可能对经济、国家安全和人类本身构成重大风险。但现在对人工智能的焦虑已经达到了一个新的高度,华盛顿的领导人仍然处于瘫痪状态。

这对特朗普来说似乎不是一个问题,尽管国会面临越来越大的压力,但他继续消除对人工智能理论上可能导致人类灭绝的担忧。

萨克斯周三对这一做法大加赞扬,称特朗普拥有消除围绕人工智能的恐慌的独特能力,这位风险投资家将这种恐慌归咎于媒体活动“让美国公众害怕人工智能”。

他说:“媒体正在大肆宣扬所有这些让公众感到震惊的恐惧,然后他们对此进行了民意调查,果然民意调查反映了这种恐慌感。”萨克斯“所以所有这些政客都会说,‘哦,我们必须做点什么,对吧?’”萨克斯说,特朗普“创造了空间,然后剖析叙事并找出它存在缺陷的所有方面”。

周一,特朗普在Truth Social上发表了一系列声明,多次驳斥了人们对该技术日益增长的担忧,称其为“HOAX”,这些词浇灭了对监管的直接希望。

“人工智能需要的唯一控制或‘护栏’是一个强大且聪明的(高智商!)总统,美国肯定有这一点,”特朗普写道。

科技行业认识到,尽管多年来一直呼吁国会采取“温和”的监管方法,但美国人对数据中心日益强烈的反对、对人工智能相关经济动荡的焦虑以及对流氓人工智能代理的恐惧,已经改变了可接受的政治对话的奥弗顿之窗。

尽管领先的人工智能公司正在重新承诺确保其模型安全,但他们希望国会发挥的作用已经开始显现裂痕。

国会山当前辩论的中心是《前沿法案》,该法案由众议员杰伊·奥伯诺尔特(加利福尼亚州共和党人)支持和洛里·特拉汉(马萨诸塞州民主党人)这将建立国会第一个人工智能安全联邦框架,但其未来仍然不明朗。

周二,OpenAI的首席游说者Chris Lehane批准了该法案的一项关键条款,该条款要求顶级人工智能公司与独立安全评估人员合作。但Anthropic的赫克拒绝在周三的Decoded舞台上认可这些相同的条款,尽管她坚称该公司“一直是为第三方评估者服务”。国会进步核心小组主席卡萨尔已经呼吁采取更大的行动。上周,他和参议员伯尼·桑德斯(佛蒙特州)宣布了一项法案,暂停高级人工智能开发并永久禁止所谓的“超级智能”,即人工智能的能力超过了人类的对抗能力。

Hugging Face首席执行官兼联合创始人克莱姆·德朗格(Clem Delangue)的公司发现自己成为流氓人工智能代理人发起的前所未有的网络攻击的目标,他在华盛顿峰会期间表示,更严格的责任法可能会激励人工智能公司优先考虑网络安全,因为担心法律风险。

如果没有它,“你最终将进入一个每个人的经纪人都在攻击每个人的经纪人,却没有明确的责任,”他说。

但他拒绝对具体立法发表评论,并表示当前管理网络犯罪的法律框架“今天运行良好”,尽管它可能必须根据以人工智能为中心的未来进行调整。

两党分歧依然很大国会山的僵局并不是因为缺乏想法。但如果未能围绕立法解决方案来治理人工智能,可能会导致两党领导人失去机会,因为他们尚未声称这个问题是他们自己的问题。这可能特别危险,因为新兴技术在中期选举前成为选民的一个突出问题。

民主党希望国会迅速采取行动--即使他们不太知道如何采取行动。

100多名民主党人呼吁议长迈克·约翰逊让众议院继续开会,直到他们通过两党人工智能立法。相反,他周三缩短了议员们在华盛顿的时间,比预期提前一天让议员们回家,休会七周。

许多控制参众两院木槌的共和党人现在并没有表达对人工智能采取行动的同样紧迫性。

格思里周三拒绝承诺就一项为人工智能设置护栏的两党提案进行小组投票的时间,并表示该提案可能要到明年才会到来。根据当前的竞选民意调查,这意味着这可能会成为未来民主党管理的众议院需要解决的问题。

这位肯塔基州共和党人表示:“我并不是说什么都不会发生,但我认为如此规模的法案需要努力。”

卡萨尔在峰会上表示,他周二上午会见了Anthropic的赫克,敦促该公司暂停开发其最先进的人工智能模型。

“这并不是所有人工智能的暂停。这是对最危险的研发的暂停,”他说。但他的呼吁并未得到民主党核心小组的响应。立法细节也让立法者们绊倒了。

据两名不愿透露姓名、分享私人讨论细节的人士透露,Anthropic、OpenAI、Hugging Face和独立审计组织METR的代表周二在众议院科学、空间和技术委员会会见了民主党人。

知情人士表示,他们主要讨论了如何监管行业最先进的人工智能系统,但对于这些护栏应该是什么并没有统一共识。

在参议院,关于一项旨在解决人工智能灾难性风险的法案的谈判遇到了障碍,因为立法者对于政府应该如何或是否应该在模型发布前对其进行审查存在分歧。

随着人们对人工智能进步的能力和潜在危害的担忧加剧,华盛顿的党派解散削弱了立法行动的希望。

但LinkedIn联合创始人、民主党大亨里德·霍夫曼在峰会期间表示,缺乏共识为候选人解决人工智能问题提供了新的机会。鉴于人工智能行业继续遭受公关危机,霍夫曼认为技术乐观主义者可能会在2028年赢回公众舆论。