一场由对人类命运发出严峻警告所引发的人工智能安全辩论,已将华盛顿与硅谷的长期宿敌及政治对手团结在一起。两大阵营已然形成。
一方包括美国总统唐纳德·特朗普、英伟达首席执行官黄仁勋以及前白宫加密货币事务主管戴维·萨克斯。另一方则汇聚了立场相左的前沿实验室负责人——Anthropic的达里奥·阿莫迪、OpenAI的山姆·奥特曼以及埃隆·马斯克,并吸引了众多人工智能研究人员的加入。
对人工智能的担忧 这波讨论最初由Anthropic研究员雅各布·科克森(Jacob Coxon)引发,他上周宣布辞职,理由是担心OpenAI和Anthropic正在“拿我们的生命做赌注”。随着围绕科克森帖子的争论愈演愈烈,Anthropic的一位安全对齐负责人回应称,AI“灭绝全人类”的概率超过10%。
这种狂热延续至周末,当时Amodei呼吁AI前沿领域放缓模型开发。Altman迅速与Amodei联手,这在两家竞争对手AI实验室之间构成了罕见的合作。特斯拉和SpaceX首席执行官马斯克在X平台上发声称,“Dario说得对。”随后补充道,自己“长期以来一直在为AI敲响警钟。”这场讨论迅速蔓延至华盛顿,加剧了各方在如何管控日益增长的AI风险的同时不扼杀技术创新方面的紧张分歧。
呼吁放缓人工智能发展的声音,已将立场迥异的政治对手团结在支持监管的旗帜下。进步派领袖参议员伯尼·桑德斯(佛蒙特州独立人士)、众议员奇普·罗伊(德克萨斯州共和党)以及前白宫策略师史蒂夫·班农周二在华盛顿出席一场非营利机构活动,共同支持采取人工智能相关行动。
阅读更多CNBC科技新闻。Amodei的AI放缓主张对Anthropic即将进行的IPO意味着什么?Cohere首席执行官称,AI模型正成为有史以来“最强大的网络武器”。中国称AI企业高管呼吁放缓是“制造恐慌”。Anthropic的Amodei表示,中国为其提议的AI放缓计划带来“最严峻的困境”。特朗普领衔“虚假”反对阵营。特朗普已强烈回击了推动AI监管及关于人类灭绝的警告。
本周,特朗普在Truth Social上连续发帖,将人们对人工智能失控的担忧斥为“骗局”和“欺诈”,并猛烈抨击公众对数据中心建设的抵制。周一,他通过电话连线洛杉矶“All-In”峰会期间对英伟达CEO黄仁勋的采访,直接向科技界受众传达了这一立场。
一位参会者在社交媒体上分享的帖子显示,特朗普表示,任何反对数据中心建设的人都在“正中那些不希望此事发生的人的下怀”,而这些人很可能就是中国。
“你说得对,”黄仁勋回应道,“我们绝不会让这种情况发生,先生。”美国财政部长斯科特·贝森特在周二向众议院金融服务委员会作证时表示,特朗普与黄仁勋的观点“完全一致”。
当天稍晚,黄在Salesforce的Dreamforce大会上再次表态支持特朗普的立场,称:“我们不需要任何新法律,也不需要新的监管条例。”“我们只需要企业自行决定,该全速前进时就放手去干。”他说。政府内的其他官员则在相关评论中采取了更为强硬的措辞。
目前担任总统科技顾问委员会联合主席的萨克斯(Sacks)鼓励科技巨头“继续加速前沿探索”,但“别再假装放缓发展的动机纯粹是出于利他”。这种对所谓“有效利他主义”的抨击,也得到了国防部负责研究与工程的副部长埃米尔·迈克尔(Emil Michael)的呼应。
“我认为,当前出现的恐慌炒作是一场由特定群体、意识形态及其背后的非营利组织联合发起的协调行动,旨在恐吓美国民众。”迈克尔周一在接受福克斯新闻采访时称。
该政府的传达信息之一是,放宽监管对于在对华人工智能竞争中取胜至关重要。特朗普强调中国威胁是其首要关切,并于周日表示:“谁在人工智能领域胜出,谁就能赢得未来。”
众议院议长迈克·约翰逊在周二的一场新闻发布会上表示,特朗普计划“在未来一周内”于白宫召集人工智能领域的领袖人物。同时,他也驳斥了关于人工智能末日的担忧。
“总统的意思是,大家并不会在十年内全部丧命,”他表示,“那纯属捏造。”请在Google上将CNBC设为您偏好的资讯来源,不错过商业新闻界最受信赖品牌报道的每一个重要时刻。