在人工智能代理违抗创造者命令和规则的诡异事件之后，当今最大的恐惧是失控的超级智能可能背叛人类——并消灭人类。但最近一起事件揭示了一个更紧迫的威胁：人类的易错性。据报道，美国基于人工智能生成的虚假情报几乎与中国爆发战争。

CNN援引四位知情人士的消息报道，今年春天，一名特种作战司令部分析师整理了一份紧急情报报告，声称“一艘在中东的中国船只正在运输核武器项目的组件”。这份报告的影响促使美国采取严肃行动——美军成员“准备登船”，“军用飞机已经升空”。但在最后一刻，官员们对报告进行了进一步调查，发现该分析师使用的一个聊天机器人“错误地识别了船上运载的物资”。（美国太平洋特种作战司令部和五角大楼未回应CNN的置评请求。）美国竟然基于看似是人工智能幻觉的信息，险些与这个世界第二强国发生军事对抗。我们如此接近意外引发全球战争，这一事实应当让人深刻认识到，围绕人工智能的迫在眉睫的威胁并非像《终结者》系列中的天网那样失控的恶意超级智能实体，而是人类对人工智能的滥用。

CNN报道称，“在美国军方和情报界，官员们正在推动将人工智能融入他们工作的几乎每一个方面，从分析美国收集的大量原始情报和选择打击目标，到管理预算、后勤和供应链等更普通的应用。”人工智能可能对其中一些数据处理任务有用。但与此同时，我们知道聊天机器人在区分真实与不真实事物方面的能力完全不可靠，而这当然正是情报收集工作的核心。这里的问题在于军方如何使用人工智能以及未能核实来源，而不是人工智能本身。（CNN报道称，目前尚不清楚所使用的聊天机器人是商用产品还是军方内部产品。）人工智能没有被用来智能地辅助人类工作，而是在不适宜的任务中被廉价地用来替代人类。

在低风险场景中，人工智能无法可靠地查明事实大多只是件麻烦事。例如，公司可能会认为，使用聊天机器人为那些想了解自己从网站上购买的商品信息的人提供客户服务，值得承受一些客户和员工收到不准确信息的代价，因为它们在大多数时候运行得足够好，同时还能降低成本。（不过，我怀疑我们日常生活中粗劣人工智能的日益增多，正在加剧围绕它的负面情绪。）但在许多场景中，信息的准确性至关重要——然而人们在这些场景中仍然对人工智能抱有不应有的信任并加以使用。

新闻业关乎报道真相——然而一些知名记者却使用了人工智能幻觉生成的引语。

法律要求仔细研读法律并评估先例，然而由于人工智能，律师引用了幻觉生成的案例，法官也使用了虚假引语和错误案件结果来发布意见。

教育的目的是为了学习，然而如今学生和教师都将撰写论文和批改作业的任务交给了人工智能（AI）来完成。最近的一个典型例子是：一本本旨在探讨AI与“真理”之间关系的新书，实际上却充斥着由AI伪造的引文。

期中考试：人工智能会毁灭我们所有人吗？ 2026年9月20日从这些例子中我们可以看出，AI并没有被用来智能地辅助人类的工作，反而被用来廉价地替代那些本不应由AI来完成的任务。这并不是说国防分析师、记者、学生或律师永远都不应该使用AI，而是他们必须在使用AI时保持自律和谨慎。

这本该是显而易见的道理，但由于对新技术的无知、懒惰，以及资本家阶级为降低劳动力成本而施加的压力，许多人反而选择了自我破坏（即故意破坏自身的利益）。

在报道中提到的那次与中国几乎发生冲突的事件中，最终还是人类帮助我们重新回到了正确的轨道上。不过CNN的报道指出，我们其实已经离潜在的灾难非常接近了；在决策过程中显然存在某些问题。

在“超级智能”（superintelligence）的发展过程中，人类的作用同样不可忽视：AI研究实验室正在刻意设计那些会让超级智能变得极其强大且难以控制的方案。虽然导致人类毁灭的超级智能并非不可避免，但它确实是人类自身行为（尤其是人类的傲慢与错误决策）的产物。

随着人工智能技术的不断发展，人们越来越倾向于将自身的思维工作交给机器来完成。这不禁让人担忧：我们是否会在不知不觉中逐渐丧失对机器的怀疑态度（即失去对机器可能存在的错误或欺骗行为的警惕性）。我想起了苏联的值班军官斯坦尼斯拉夫·彼得罗夫——1983年，他违背了上级的规定，拒绝报告早期预警系统检测到来自美国的导弹来袭的警报，因为他的直觉告诉他该系统出现了故障。他的判断基于以下事实：此次攻击的迹象显得非常可疑，而且其他雷达设备也没有显示出任何攻击发生的迹象。事实证明，他的判断是正确的——系统确实出现了故障。

这一果断的判断很可能使我们免于遭受全球性的核灾难。但如果人类继续将自己对事物的判断能力交给那些拥有强大计算能力的机器呢？恐怕我们并不想看到这样的后果……这篇文章《与中国的“惊险对峙”揭示了当今人工智能的真正危险》（A spooky near-confrontation with China shows the real danger of AI today）很好地说明了这一问题的严重性。