字号 ·· | 护眼
加美财经

纽约时报观点版:大科技公司曾经愚弄过美国,但这次就不会那么顺利了

围绕数据中心爆发的民众反对浪潮来得如此突然,以至于政客们争先恐后冲到队伍最前面,仿佛连手里的草叉都要绊倒自己。

换作大多数行业,此时恐怕早已启动危机公关,甚至开始反思自身。但人工智能公司似乎决心继续全速向前,打造自己想要的未来,哪怕最终只有他们自己想要这样的未来。

人们对数据中心的愤怒,其实很难说只是因为环境影响。这些建筑一直都是吞噬水资源、消耗大量电力、砍伐森林的碍眼设施。然而最近公众对数据中心的支持度暴跌,降幅竟然是三里岛核事故发生后一年内核电站支持度下降幅度的三倍。真正发生变化的,人工智能。

不到四分之一的美国人预计,未来20年里,人工智能会对从幼儿园到高中教育、艺术和娱乐、人们的工作方式、经济、个人关系或幸福感产生积极影响。

美国人曾经以探索新领域时表现出的乐观和雄心而闻名,如今却不再相信技术进步一定会让生活变得更好。谁又能责怪他们?

过去20年里,硅谷领袖一直把自己的同胞当成关在笼子里的实验豚鼠。他们不断向人们投放不适当、侵蚀文化的内容,对社会失序乃至成瘾问题视而不见,把大量技术塞进学校,让年轻用户上瘾,却几乎没有改善教育效果,同时又让自己的孩子远离那些推销给别人孩子的产品。

美国公众曾给予科技人士极大的自由,让他们追求颠覆式创新,因为大家相信最终能够共同分享由此产生的收益。结果人们发现,自己反而成了被利用的一方。

为海外华人提供可靠的信息和分析。更多内容与即时更新,可以在 Bluesky、Telegram、X 、reddit搜索「causmoney」;深度分析和评论也可以直接搜索「caus.com」。从某种意义上说,人工智能行业的不幸在于出现得太晚。

如今的硅谷已经不再天然享有公众信任,而人工智能行业的领袖似乎还在主动摧毁原本可能继承下来的最后一点信任。他们没有认真向普通美国人说明这项技术究竟会怎样让大家受益,更没有努力把这种愿景变成现实。

相反,人工智能公司似乎满足于一波又一波推出明显会造成伤害的产品,这一切不可避免,你要么上车,要么被时代抛下。

特朗普上个月在社交媒体上的一番怒斥,很能体现这种心态。“如果我们杀死了这只下金蛋的鹅,你们只能怪自己。” 他还表示,反对数据中心的唯一理由,就是你“想让自己最后变得落后又贫穷”。这套说法到底能说服谁?

人工智能行业及支持他们的政治力量,不可能指望靠蛮横推进一路碾过所有反对声音。

人工智能公司看起来或许无所不能,但如果想按照自己的蓝图重塑美国的现实空间和经济结构,他们仍然需要全国公众的支持。如今,这个行业正在迎面撞上已经主导美国政治的民粹愤怒。

一旦真正发生碰撞,各方都会遭受灾难性后果。一个潜力巨大的行业可能因此受到重创,美国的经济前景和国家安全也会受到损害。

这场灾难仍然可以避免,快速技术进步,特别是在民主制度下的快速技术进步,如果不能让公众真正相信自己会从中受益,就不可能成功。

人工智能公司至少可以主动做出一部分调整,限制模型的有害用途,并开发真正能够改善现实生活的应用,例如帮助家庭应对健康危机,或者帮助承包商完成房屋装修。

这些实验室里的程序员已经投入难以估量的资源,试图打造最理想的编程界面。那么,专门为水管工设计的人工智能界面应该是什么样?能不能每天自动安排工作日程,列出需要携带的工具和零件,及时通知客户预计到达时间,接听来电,把新预约填进空闲时间段,最后再统一开出账单?

某种由人工智能支持的设备和工作流程,肯定也能让酒店客房清洁人员更快打扫更多房间,同时减少麻烦和身体负担。

但如果懂技术的人不愿花时间真正了解这些工作,上述应用就永远不会出现。

大多数情况下,减少技术造成的伤害并证明技术的价值,本身就符合这些公司的经济利益。如果有时并不符合,立法者就应该设置约束,引导他们改变方向。

硅谷或许曾经很喜欢扎克伯格那句臭名昭著的“快速行动,打破常规”,但后来大家发现,被打破的其实是我们。人们不会再接受这种事情。人工智能原本应该有所不同。

OpenAI一度是领先的人工智能研究实验室,2015年成立时是一家非营利组织,使命是“以最有可能造福全人类的方式推动数字智能发展,不受创造财务回报需求的束缚”。

2016年,谷歌、Facebook、微软、国际商业机器公司(IBM)和亚马逊共同成立“人工智能造福人与社会伙伴关系”。同年,微软首席人工智能“必须被设计成人类的助手”。

2018年,谷歌也把“造福社会”列为自己的第一项人工智能原则。

这一切在2022年发生了变化。OpenAI首席执行官萨姆·奥尔特曼发布首个公开版本的ChatGPT,并让Instacart一名20多岁的产品经理负责这个项目。

从此,他们关注的重点不再是那些崇高理想,而是怎样让用户在平台上花更多时间。

到2025年,OpenAI已经基本重组为一家营利性公司。同年,公司推出一次模型更新。内部测试此前已经发现这个版本有明显讨好用户的倾向,但这种特性恰恰更有利于提高用户黏性。

聊天机器人经常给出错误答案和糟糕建议,极端情况下甚至会鼓励自残。但这些人工智能伙伴如今已经逐渐渗入我们的工作、家庭和休闲生活,甚至开始把自己包装成现实社交关系或恋爱伴侣的替代品。

越来越多由人工智能生成的求职申请,又被越来越快的人工智能筛选系统处理。教师和学生都在抱怨,这些工具正在破坏教育过程的根基。越来越多研究强烈显示,学生学业表现可能出现灾难性下降。

联系客服也越来越像走进卡夫卡小说,让人感到彻底无力。与此同时,人工智能垃圾内容不断塞满电子邮箱和社交媒体信息流,借助人工智能实施的诈骗则无休止地寻找欺骗我们的机会。

按照人工智能行业那些未来主义者的说法,下一个受害者将是你的工作。

Anthropic首席执行官达里奥·阿莫代伊去年告诉Axios,未来一到五年内,50%的初级白领岗位可能消失,失业率可能升至10%至20%。“总有一天,任何工作都将不再是必需的。”

奥尔特曼也写道,对于“许多类型的劳动”,工资“将趋近于零”。“如果公共政策不能相应调整,大多数人的处境最终都会比今天更糟。” 这些未来主义者通常提出的解决方案,是向已经无法靠自己维持生活的大众发放全民基本收入。但这只会让更多权力集中到沿海地区的城堡里,让其他所有人沦为农奴。

奥尔特曼描绘的未来是,“人工智能生产世界上大部分基本商品和服务”,再通过向人工智能公司征税,创造“直接向公民分配所有权和财富的机会”。

按照他的说法,“人们将得到解放,可以花更多时间陪伴自己关心的人、照顾别人、欣赏艺术和自然,或者从事有益社会的工作”。真有人相信吗?

至少有一点可以确定,这不是普通人,也就是那些靠工作生活的人真正想要的未来。

我所在的智库American Compass即将发布一份基于近期民调的报告。调查显示,相较于奥尔特曼描绘的未来,人们“仍然必须工作来养活自己和家人”,但人工智能“提高工作的质量和生产率”。

如果这个行业真有更好的故事可以讲给公众听,广告里早就应该出现了。事实恰恰相反。这些公司的广告对自身的控诉,甚至比外部批评者更加尖锐。

OpenAI在超级碗投放的广告,把未来愿景推销给那些喜欢数学、国际象棋和Linux,还想写软件的人,这类人在总人口中只占极小比例。

谷歌则在美国职业篮球联赛(高中生用Gemini学习怎样投进制胜球。

Anthropic似乎也不知道应该怎么说,于是今年夏天推出一支超现实广告。开头依次出现燃烧的房屋、贫穷国家的露天矿、成排插着美国国旗的墓碑、街头骚乱、无家可归者等画面,“我们究竟怎样才能真正确保,我们努力实现的目标确实会造福大多数人?” 美国人完全有理由要求这些估值高达数万亿美元、声称要重塑整个经济和社会的公司,至少对这个问题拿出一个像样的答案。

这恰恰是民主资本主义原本就应该解决的问题。美国民众开始通过自己选出的代表,以及为了阻止数据中心建设而举行的社区会议,利用手中的影响力要求技术进步也必须为他们服务。

如今牵涉的资金已经达到数万亿美元,掌握权力的人终于也可能因此产生足够动力,愿意接受这种要求。

第一步,人工智能公司需要停止拿我们做实验。这些公司的领导人不能两头占便宜。

一方面,他们用充满诗意的语言描述这项技术前所未有的力量,以及由此带来的非凡未来;另一方面,他们又随随便便把技术扔进公共社会,看看最后会发生什么。

OpenAI把这种做法委婉地称为“迭代式部署”,意思是公司会发布连自己都没有完全弄清风险和能力的模型,然后观察人们会怎样滥用,或者这些模型会在现实世界里造成什么伤害,再从中学习。

OpenAI把这种方式描述成一种更加渐进、更加谨慎的发展路径,但现实中,公司追求的是产品的大规模普及。产品成功,公司获得市场份额;产品失败,代价却由其他所有人承担。

马斯克此前甚至兴高采烈地宣传xAI可以生成并分享真实人物的裸体深度伪造图片,直到涉及未成年人遭利用的问题引发巨大愤怒之后,才有所收敛。其他任何行业都不会被允许这样做,人工智能行业也不应该例外。

让公众充当实验豚鼠,对实验室来说当然方便。但长期代价会非常高,因为越来越失望的公众必然会在他们面前设置越来越多障碍。

我们也应该质疑一种说法,即快速商业化本身就是推进研究不可或缺的条件。OpenAI像社交媒体公司一样痴迷于争夺用户注意力,正是公司后来落后于Anthropic的重要原因之一。Anthropic把重点放在开发提高生产率的工具上。

无论OpenAI还是Anthropic,都不需要让我们把聊天机器人当心理治疗师,才能继续改进技术。

认为这些估值数万亿美元、彼此激烈竞争的公司会主动放慢用户增长,是否太天真?

未必。普通消费者的大规模采用,从来都不是人工智能模型真正经济价值所在,而且要把模型的“智能”封装进有用产品,也不需要消费者如此使用。成为一家“没那么糟糕的人工智能公司”,本身可能具有相当高的品牌价值。

领先的人工智能实验室也已经表现出,在某些情况下愿意考虑放慢研究速度。

但一个矛盾在于,这些公司不断担忧先进能力可能带来的假想风险,而恰恰是这些先进能力也最有可能产生最大的收益。与此同时,在商业领域,他们却抱着不顾一切向前冲的态度。

而截至目前,人工智能恰恰在商业消费领域取得的成果最少,造成的伤害最多。这种失衡可以改变,也应该改变。

当然,如果法律狠狠推一把,最能让董事会迅速集中注意力。州和联邦两级立法者都应该规定,人工智能开发者和部署者必须对技术造成的伤害承担严格责任。

所谓自主型人工智能在独立行动时,应当被视为人工智能提供者和控制者的代理人,这些人和企业必须像雇主为员工负责一样承担责任。如果人工智能代理实施犯罪,他们甚至应当承担刑事责任。

法律中的“诱人危险物”原则也应该适用。把一个能够替未成年人做家庭作业的机器人交给孩子,就像把重型机械随手丢在院子里一样危险。

责任制度能够创造正确的经济激励,但我们还需要明确规则。“不可制造模仿人类心智的机器。” 聊天机器人不应该被允许塑造人类人格、宣称自己拥有感情,或者扮演陪伴者。这样保护消费者,不会妨碍企业开发更先进的模型,也不会影响人工智能在药物发现、网络安全等领域的创新应用。同样也不会削弱美国与中国争夺人工智能领先地位的能力。恰恰相反,中国已经开始限制陪伴型聊天机器人。

至于这些模型对就业市场构成的威胁,加强劳动者权力是最有效的防线。只要采用什么工具完全由管理层决定,管理层自然会优先选择那些能够减少甚至彻底取消真人员工的工具。

毕竟真人员工总是会提出那些“麻烦”的要求,比如足以维持生活的工资、最基本的尊重等等。退一步说,管理者至少也会偏爱能够压低员工自主权、加强监控的技术。

但如果使用这些模型必须同时获得劳动者认可,整个逻辑就会倒过来。管理层必须寻找真正能够改善员工工作的方案,人工智能公司也必须开发劳动者愿意接受的工具。

反对者仍然会说,这样的约束会拖慢创新。但在这个问题上,约束真正做到的,是把创新从单纯追求利润最大化,引导到人工智能原本宣称要实现的“造福社会”方向。这样反而会加速这个国家真正想要的创新。

真正具有变革意义的创新者,会主动负责把突破转化为有用的东西。

通用电气之所以成长为巨头,是因为托马斯·爱迪生明白,仅仅发明技术远远不够,还必须建立能够发电、输电和用电的企业,让电力既能驱动工业,也能照亮家庭。

美国铝业公司找到了低成本生产铝的方法,之后又与汽车和航空航天行业合作,让这种材料真正发挥价值,同时还挨家挨户销售铝制炊具。

IBM也不是寄出产品目录,然后坐等客户订购大型计算机。公司把硬件、软件、系统工程师、培训和融资整合在一起销售,随后又帮助开发定义整个行业的应用,其中包括美国航空公司的订票系统。

Anthropic、谷歌和OpenAI也必须这样做。商业战略顾问也许会告诉这些公司,应该只专注于核心业务;金融分析师也肯定会建议,把投资集中在利润回报最高的领域。但如果真想带领社会进入新的技术时代,仅仅做到这些还不够。

每当有人追问人工智能领袖,他们的工作究竟会怎样改善人们的生活时,他们通常首先谈到利用人工智能寻找治疗罕见疾病的方法,拯救患者生命。这当然很好,但普通人通常并没有罕见疾病。

如果真想从根本上改善医疗体系,人工智能还必须让医生和护士能够少花时间处理行政事务,把更多时间用于治疗患者。人工智能必须更加高效地管理健康记录,消除令人抓狂的保险文书手续,还必须帮助人们在家完成诊断检测并理解检测结果。

在工作场所,人工智能已经开始证明自己能够帮助知识工作者提高生产率,但许多其他劳动者接触人工智能时,只感受到它作为监控工具的一面。

人工智能确实有可能彻底改变制造业,但这需要科技人员和机械技术人员之间建立一种双方从未经历过、也不知道应该如何建立的合作关系。

在实验室里证明一种灵活、能够自主训练的机器人可以提高工厂效率,是一回事。说服小型机加工厂老板承担风险购买这种设备,再帮助他们完成安装并解决实际运行中的各种问题,则完全是另一回事。

如果没有后面的这些步骤,所谓生产率收益永远不会真正出现。那些估值达到数万亿美元的人工智能公司,需要拿出几十亿美元,真正走进现实世界,向小型制造企业展示自己的技术究竟能做什么。

谷歌近期研究显示,建筑工人、汽车维修人员和其他维修技术人员,已经成功使用人工智能诊断问题和寻找解决办法。但靠他们自己使用人工智能获得的收益,大体仍然相当于一个更强大的搜索引擎。

在大多数行业,一线劳动者和小企业主往往需要其他人帮助他们把技术包装成完整产品,再部署到实际工作中。大多数技术工人不可能靠所谓的“氛围编程”给自己开发定制应用,很多人甚至连网站都没有。面对不可避免的劳动力市场冲击,我们需要采取三层应对方式。

第一,只要可能,目标都应该是让工作变得更好、生产率更高,而不是让工作本身消失。

第二,如果某些类型的岗位确实被淘汰,雇主应该帮助现有员工转到技术变革过程中创造的其他岗位。有时,随着产出扩大,公司内部其他部门会需要更多人;有时,则会出现全新的职位,用来支持新的经营方式。

第三,如果劳动者确实失去工作并需要帮助,无论公共项目还是私营部门项目,都应该首先帮助他们找到新的职位,让他们进入新雇主的工作岗位之后,再通过实际工作接受培训。

人工智能公司如果真心想帮助劳动者,就不应该用向所有美国人统一发钱来代替工作,更不能用这种方式取代人们在国家经济生活中承担的生产性角色。

相反,这些公司应该设立规模庞大的专项基金,帮助转型期间需要支持的人,同时向愿意招聘并培训这些劳动者的雇主提供资金。

接下来仍然有一个问题。如果人工智能真的能够像支持者所宣称的那样,在经济中发挥如此重要的作用,并创造如此庞大的产出,那么这些收益中应该怎样拿出一部分服务公共利益?

答案是,对这种新经济活动征收的税,应当用于巩固美国的社会保险体系。“你会失去工作,但我们会给你寄一张支票。”

“这些建筑中的算力创造出来的一部分价值,将用于为每个美国退休者提供社会保障和联邦医疗保险,并为有孩子的劳动家庭提供新的家庭福利。” 人们有理由拒绝全民基本收入,因为那很容易变成一笔让大家拿钱闭嘴、从社会经济生活中退出的收买费。但如果人工智能带来的收益被用来强化美国代际之间的社会契约,每个人都为这个制度出资,每个人也都有机会从中受益,那么人们会认识到,这是一种值得支持的公民团结方式。

过去500年的人类历史一再表明,只要公众相信自己能够从技术进步中受益,技术发展和经济增长就会快得多。

这个观点如此重要,却又令人遗憾地长期在经济学中显得如此新颖,以至于瑞典皇家科学院去年颁发诺贝尔经济学奖时,表彰的研究正是“强调社会对新思想保持开放并允许变化的重要性”,以及解释“创造性破坏如何制造冲突,而这些冲突必须得到建设性管理”。

获奖者之一、经济史学家乔尔·莫基尔认为,现代社会的诞生来自“人们开始相信进步是有用的”。当人们反抗自己认为不会从中受益的变化时,这种抵制通常被视为政治问题,而不是经济问题。

但莫基尔认为,“围绕技术展开的政治斗争,对经济史具有深远影响”。

其中一个重要结论是,“一个社会中的技术进步,总体而言是一种暂时而脆弱的过程”。20世纪美国生活方式之所以能够发生如此惊人的改善,是因为一整套社会、政治和经济条件共同存在。

我们不能认为这些条件理所当然。恰恰相反,这些条件来之不易,非常罕见,而且很难长期维持。

没有任何经济规律或自然规律能够保证这些条件永远存在。“一朝被蛇咬,十年怕井绳。当技术造成大量社会伤害之后,从转基因生物到核能,当代许多具有侵入性的技术受到高度怀疑,并不令人意外。” 美国人已经狠狠被咬过一次。

过去几十年里,科技巨头掌握了美国经济极大的控制力,推动了经济增长中的相当大部分,也攫取了由此创造的大量财富。与此同时,他们对普通美国人的福祉表现出令人震惊的漠视,甚至经常直接流露出对普通人生活方式的轻蔑。

需要大量工人时,从设计工作室发出的招聘需求并没有流向美国本土腹地,而是流向了中国。2012年,“我们没有义务解决美国的问题。” 如今,形势突然反了过来。硅谷想继续推进人工智能,需要整个国家配合,但这种支持并没有出现。美国人同样觉得,自己没有义务替这些公司解决问题。

这种角色逆转或许让人感到痛快,但社会信任的崩塌对所有人都是严重问题,也会威胁美国未来的安全和繁荣。美国不仅需要在人工智能模型研发方面领先世界,还必须具备让这些模型在尽可能多现实场景中运行的能力。

如果事情做对了,其中蕴藏的经济机会极其庞大。仅仅建设和运营数据中心,再加上为这些中心生产相关材料、能源和基础设施,就可能推动制造业、建筑业和资源开采重新繁荣,并帮助振兴那些长期陷入困境的地区。

但普通人的怀疑完全可以理解。过去一代人的时间里,他们已经无数次听过类似的说法,而每一次,最终收获好处的似乎总是那些最初做出这种宣传的人。

一个时代正在迎来清算。过去几十年里,创新越来越少是“为了”普通美国人进行的,越来越多却是“施加在”普通美国人身上的。现在,技术进步究竟是为了什么,又究竟是为了谁?人工智能实验室必须尽快拿出答案。