一位知名研究人员警告称，由于一项新技术的出现，世界正处于一场巨大变革的边缘，这项技术可能会极大地造福社会，也可能导致大规模的毁灭。没有人完全理解它如何运作，也不知道政府是否应该介入。
那是1941年的内布拉斯加州奥马哈，物理学家阿瑟·H·康普顿（Arthur H. Compton）正在发表一场关于亚原子能量可能性的演讲。根据《林肯晚报》（The Lincoln Evening Journal）对该活动的报道，这种可能性“令人叹为观止，以至于即使是对其了解最多的人也对此感到有些不确定，并心存敬畏”。
虽然不是一个完美的比喻，但对20世纪初报纸档案的查阅表明，早期原子能（后来被称为核能）的初期发展与今天公众对人工智能灭绝风险的讨论之间存在着一些惊人的相似之处。正如今天一样，当时也有末日论者和怀疑论者、乌托邦式的吹捧者以及呼吁保持冷静的科学家。
这段历史的回顾展现了围绕强大技术的熟悉社会周期，涵盖了兴奋、焦虑和恐惧。但过去也是对今天的人工智能高管和政府领导的一个警告：不应该以大规模毁灭为代价来强迫达成关于人类安全的共识。
1919年，英国著名物理学家奥利弗·洛奇爵士曾向英国一家科学学会表示，“一盎司物质中蕴含的原子能足以摧毁一个大陆”——据爱荷华州当地一家报纸的社论记载——他还表示希望“善良而睿智的人”能够掌控这种能量，而非邪恶势力。同年，欧内斯特·卢瑟福首次实现了原子分裂。而H·G·威尔斯早在五年前，即1914年的小说中，就创造了“原子弹”一词。1921年，一位英国男爵担忧未来的战争将由某人在办公室里按下按钮来发动。当时也有人对这项技术及其潜力持怀疑态度。64岁的尼古拉·特斯拉在一次采访中表示，“即使为了毁灭性战争的目的我们能够释放原子能，也并不意味着它一定是致命的。”一篇在全国各报联合刊登的周日特稿题为“科学敢释放原子的力量吗？”文章明确写道“人们担心这种巨大的能量可能毁灭世界”，旁边配有一台当时最强大的机器——特快机车的图片，令人联想到失控列车的意象。文章指出，一滴水中的原子能就足以驱动500台机车运行一小时。
六年后，康普顿在美联社的一篇文章中宣布，他正在研究原子能的释放，并称这可能带来“文明的彻底变革”。那是一个对科学充满乐观的时代，人们相信改变世界的突破即将到来。不禁让人遐想，这些权威人士若看到微芯片和数据中心，又会作何感想。
科学家们刚刚在大西洋两岸分别证实了核裂变——即分裂铀原子并释放其能量——随后便发现自己需要安抚日益焦虑的公众。
科学服务社（Science Service）撰文称，物理学家希望“公众不要对实验可能将世界炸成碎片产生恐慌”，并指责威尔斯（Wells）灌输了一种末日论的情绪。科学家们害怕公众中出现“革命”，同时坚称原子能的释放只能“通过在实验室里的直接意图”来实现。原子弹改变了一切。总统哈里·杜鲁门（Harry Truman）表示，科学家们创造了一个能够毁灭文明的怪物，并呼吁对这一秘密提供某种保护。一些物理学家游说反对投下原子弹，甚至在此之前就曾建议制定一项国际计划来控制核武器。
媒体档案显示，在广岛和长崎发生爆炸后不久，公众对国际核治理的情绪交织着安抚、担忧和辩论。一位物理学家在澳大利亚的一个俱乐部里表示，“没有必要害怕”原子能，而一位历史学家则在密苏里州的一个扶轮社（Rotary Club）表示，世界可能会被“一小群持有纳粹理想的人或一场事故”所毁灭，并提议将所有原子信息置于联合国的控制之下。
美国最终于1975年（广岛事件三十年后）成立了核能管理委员会（Nuclear Regulatory Commission），作为一个独立的民用核监管机构。国际形势则是：各种条约对核武器进行了管束，但主要参与者往往无法就条款达成一致。限制美俄战略武库的最后一项条约《新削减战略条约》（New START）已于2月到期，导致这两个世界最大核武器国家自1972年以来首次失去了具有约束力的限制。
思考人工智能是否会预示着世界的终结可能会让人感到不堪重负，因此，回顾历史、认识到我们并非第一代经历这类争论的人，有时会有所帮助。我们所经历的并非所有事情都是前所未有的。
过去一周，我与科技生态系统中的人交谈时感觉到，这个行业并不指望美国监管，而且立法者要采取任何行动，恐怕得发生比 Hugging Face 遭黑客攻击更严重的事件。这不是一个令人安心的想法。
阅读20世纪初的档案时，最令人担忧的一点是，直到原子能被用于轰炸日本、造成约20万人死亡之后，围绕原子能治理与监管的严肃讨论才出现。而即便到今天，我们对核武器都没有可靠的掌控，更不用说人工智能了。
核政策专家安基特·潘达今年2月在他的新闻简报《Nukesletter》中写道，将人工智能与核武器作类比存在一些严重局限。例如，与炸弹核心的裂变材料不同，人工智能算力要清点和控制都困难得多。
他写道，目前也不清楚人工智能是否会“迎来其所谓的‘广岛时刻’”。相反，随着人工智能应用加速，其影响可能更像电力或航空，“在更长的时期内塑造地缘政治动态和战争。”