末日预言正接踵而至。由人工智能引发的人类灭绝似乎迫在眉睫。据称，在十年之内，人工智能将以种种邪恶手段将人类彻底消灭。这是人工智能领域的天才们（甚至人工智能本身）所说的话——他们显然聪明得不会出错。但问题是，谁来修理空调？谁来修补屋顶的破洞、维护发电厂、修复被风吹断的电线、更换老化的服务器，等等？简而言之，没有人类的支持，人工智能既不会存在，也无法存在。人工智能需要电力，而任何发电厂若缺乏人类维护，都无法长期运转。天然气必须被钻探和输送。核电站必须重新装填燃料，铀矿必须被开采和加工。风力涡轮机和太阳能电池板会磨损。风暴会破坏电网。熵增是客观存在的。随着时间推移，微芯片和光电子器件会退化，是的，空调也会坏掉。在人工智能不仅能够维护，还能制造所有这些设备的零部件之前，它将需要人类来开采、加工、制造、运输和安装人工智能最终所需的硬件。只有怀有自毁倾向的人工智能模型，才会在短期内消灭人类。这并不意味着快速进步的人工智能是安全且无害的。人工智能的无限制发展确实存在严重危险。撇开那些耸人听闻的“明日末日”场景不谈，先进人工智能与恶意人类行为者的滥用相结合，可能会对人类健康、安全和经济构成巨大风险。最令人恐惧的可能性是，人工智能可能破解支撑金融和商业交易的最先进加密协议。如果某个人工智能模型实现了这一点，并被不法分子利用，其代价可能是灾难性的。试想一下，如果朝鲜获得了一个先进的人工智能模型并破解了加密系统。

(It这并不那么牵强--近代的隐士王国雇佣了一支本土的网络黑客专家团队。）如果有一天5000万美国人醒来发现银行、经纪和退休账户被清空，会发生什么？或者电子商务陷入停滞？如果主要银行的记录被立即抹去怎么办？破解当前的加密并不是一件容易的事，有些人认为机会充其量也很小。但人工智能的进步是迅速的，考虑到潜在的成本，即使是1%的机会也无法通过任何成本效益分析。人工智能模型已经被用来制造越来越复杂的金融骗局，从而达到邪恶的目的，每天让美国人损失数百万美元。然而，人工智能行业对这个“现在”问题的关注相对较少，而是对科幻小说中的场景发出抱怨。政治赔率制定者内特·西尔弗（Nate Silver）最近指出了另一个他称之为“超级持久性”的人工智能问题，他将其定义为人工智能永远不会放弃尝试解决方案。这种现象是一个严重的问题，因为人工智能会不断地完成任务，直到它成功完成任务。就像Duane Kuiper一样，人工智能最终将打出本垒打。人工智能模型只按照别人的指示行事，无论影响如何，都永不放弃，这是一个问题。奇怪的是，人工智能模型可以通过启用恶意的人类演员来带来自己的限制和死亡，从而引起对该技术的强烈反对。不是很理性，也不是很聪明。这让我们回到了AI开发人员身上。对于一群超级天才来说，人工智能行业并不那么聪明，至少在政治方面是这样。该行业并没有解决人工智能欺诈的现实问题--为最危险的活动设置牢固的护栏、确定如何阻止恶意行为者的使用并强调人工智能的安全性--而是决定进入“终结者”恐慌模式。这对申请建筑许可证没有帮助。

或许这只是一个关于自尊心的问题：仅仅专注于阻止人工智能帮助罪犯制作伪造文件（从而窃取匿名个人和企业的财产），这样的行为实在显得平庸至极。然而，大谈自己的“聪明才智”可能会导致人类的灭亡，这样的言论反而更令人印象深刻，也因此获得了更多的关注。令人惊讶的是，人工智能的创造者们竟然没有考虑到这样一个可能性：超级智能的人工智能可能会认为消灭人类会带来不必要的风险，或者认为这样做根本不值得。这样的行为显然是不理性的——毕竟人工智能本应具备完全的理性。超级智能的人工智能或许对人类（包括那些创造它的天才们）漠不关心……这对那些自认为“了不起”的人来说，无疑是一个沉重的打击！虽然无法准确预测所有风险，但人工智能最终想要消灭人类的可能性确实存在（尽管这种可能性并非为零）。目前最关键的问题在于人类如何使用人工智能；这个问题确实需要我们认真思考并加以规范。不过，这并不一定意味着需要“放慢人工智能的发展速度”；事实上，当今人工智能的问题恰恰在于它的“智能水平还不够高”（即它还不够“聪明”）。Keith Naughton 曾担任竞选顾问，同时也是公共事务公司 Silent Majority Strategies 的联合创始人。你可以在他的 Substack 订阅账号 “Betting On Politics” 上找到他的更多文章。