CNN调查：人工智能错误险些引发美军军事行动 这正是人工智能专家所担忧的那种情况。一条基于错误信息的指挥链，本可能引发国际冲突，最坏情况下甚至导致核大国之间的战争。据美国有线电视新闻网（CNN）调查，在与伊朗的战争期间，美军曾准备登上一艘正在阿拉伯海航行的中国货船。

据一份情报报告称，该船装载了核武器计划的部件。作战战术已确定，特种部队进入待命状态，军用飞机开始起飞。然而，就在下达攻击命令前不久，据CNN报道，人们才发现这份报告完全是胡扯。CNN的报道基于四名了解该事件的匿名消息来源。

究竟发生了什么？特种作战司令部的一名分析师曾使用聊天机器人。所使用的模型未知，也不清楚它是商业模型还是专门为军队开发的模型。据CNN引用的一位熟悉军方和情报分析师所用人工智能系统的前美国高级官员称，内部系统大多是“在商业产品上稍作修饰的复制品”。

人工智能报告“险些引发战争” 无论如何，聊天机器人错误地识别了货物。CNN未能查明该船实际运输的是什么。但据其中一名消息来源称，该报告“完全错误”，并且“险些引发战争”。

我同意向我显示外部内容。可能导致个人数据被传输到第三方平台。详情请参阅我们的隐私政策。

据美国有线电视新闻网（CNN）报道，美国太平洋特种作战司令部和五角大楼未就置评请求作出回应。

据CNN报道，原始材料由关于该船只货运清单的情报信息组成。些信息来自位于夏威夷的美国太平洋特种作战司令部。分析师就这些材料向人工智能进行了提问。随后，该机器人将公开信息与情报来源的信息混杂在一起，并得出了错误的结论。分析师随后利用人工智能将这些“幻觉”结果处理成标准化的情报备忘录并进行了发送。

不难想象，如果美国对一艘中国船只发动攻击，将会产生怎样的后果。多年来，美军在印太地区的战略、兵力部署和基础设施调整均有据可查，旨在应对与中国可能发生的冲突。尽管其目标是威慑，但目前的局势十分微妙。

国防部长要求在所有保密级别上应用人工智能。外，美国和中国正在人工智能领域展开霸权争夺——无论是在军事还是商业领域。美国总统唐纳德·特朗普及其“战争部长”皮特·赫格塞斯正极力推动在战争和情报搜集工作中，将人工智能整合到几乎所有领域——从分析海量原始数据、选择攻击目标，到管理预算、物流和供应链。

“我们将推动实验，消除官僚障碍，精准配置投资，并展示我们在军事人工智能领域保持领先地位所需的执行方案，”赫格塞斯在介绍其加速人工智能发展的战略时表示。他计划“将美国全球领先的人工智能模型直接提供给我们在所有保密级别下的三百万名文职和军事人员”。

然而，当各国依赖劣质或被篡改的数据时，利用人工智能进行目标选择可能会引发灾难性错误。批评人士和专家还指出，当前推进速度过快且缺乏充分的人工监督，例如在南美洲近海打击疑似毒品走私者，或在加沙战争中大规模验证目标时出现的问题。点击此处阅读更多关于人工智能系统在加沙战争中应用的内容。

CNN的一位消息人士称，自人工智能在政府内部普及以来，该情报机构中分析师在此案中使用的工具所产生的这种“幻觉”现象并非孤例。

人工智能负责人警告失控风险 几周以来，来自硅谷的人工智能开发者以及最大人工智能公司的负责人一致警告，人类正接近一个临界点，一旦越过，人类将失去对这项新技术的控制。届时，任何事情都可能发生，甚至包括人类的灭绝。因此，他们一致呼吁加强外部监管并制定具有约束力的行业标准。

美国政府认为，美国无法承受在人工智能（AI）发展方面落后的后果。尤其是考虑到未来可能需要与中国或其他具有竞争优势的对手作战的情况——如果这些对手始终能够领先于美国一步的话。如果你想真正感到恐惧的话，我们建议你阅读《明镜周刊》（SPIEGEL）最新一期的 故事，该文章详细探讨了人工智能失控可能带来的灾难性后果。

人们担心人工智能会逐渐脱离人类的控制。那么，现在该怎么办呢？请阅读《明镜周刊》的专题报道以及更多相关背景分析和评论。

然而，美国总统特朗普却表示，人工智能根本不需要任何监管或限制：“人工智能所需要的唯一‘控制机制’，就是一个强大且聪明（智商高！）的总统——而美国正好拥有这样的总统。”特朗普最近在 Truth Social 上这样写道。他认为，那些关于人工智能会失控的警告不过是制造恐慌的阴谋论罢了。对他来说，超越中国并通过人工智能获取经济利益才是最重要的目标，而不是关注公众日益增长的担忧。

不过，当前的例子也表明：人类自身依然是最重要的风险因素。据 CNN 的消息来源称，人工智能加剧了分析师们的压力，迫使他们更快地获取、分析和传播信息，而这反而增加了出错的风险。尤其是那些从小就接触这些人工智能工具的年轻分析师，他们对这些工具往往缺乏批判性思维。其中一位消息人士表示：“人工智能让人们更容易迅速陷入错误的想法中。”