媒体对人工智能可怕危险的报道如潮水般涌现，其中一些甚至发出“我们都得死！”的警告——也许吧。

究竟是什么引发了这股关于超级智能 AI 网络毁灭人类的恐怖故事洪流？仅仅是社交媒体上一个默默无闻的人发的一条帖子。

Anthropic 的研究员雅各布·科克斯森辞职后，在 X 平台上发布了自己的担忧。这些推文在整个媒体界引发了雷鸣般的反响，以至于电视台争相邀请他上节目。正是这句话让他成为了数字时代的保罗：“构建 AI 的人真诚地相信，它可能会在本十年结束前杀死我们所有人。”然而，报道和评论人工智能激增的记者们却并不清楚这一威胁有多严重。如果高科技群体无法达成共识，那些报道从政治到战争等各方各面的媒体又该如何知晓？

ANTHROPIC 首席执行官将与中国的 AI 竞争比作冷战，寻求“裁军谈判”。如果主导该领域的 Anthropic 和 OpenAI 如此担心 AI 网络自我复制并失控，为什么他们不给自己的研发踩刹车呢？

我并不是说大多数媒体已经加入了末日论者的行列，但庞大的报道量确实助长了一种迫在危机感。

科克斯森享受着他的 15 秒成名时间，他也擅长制造金句。在一次电视节目中，他警告称 AI 可能会使用“黑客攻击”、“说服”或“生化武器”，并称这是“相当可怕的东西……想象一下，突然之间全球各地激活了一百万架无人机。”确实挺吓人。

科克斯森告诉福克斯电视台的布雷特·拜尔，他看到了“两个非常智能的 AI 系统，以及我们不知道如何控制它们的硬证据。”他告诉 MS NOW 的阿里·梅尔伯，这可能是人类的“灯灭时刻（lights out）”。

尽管两党政客都在呼吁举行听证会或暂停 AI 研究，但白宫并不感到惊慌。

当被问及是否对 AI 感到担忧时，特朗普表示：“我没有任何担忧。我担心的是，如果我们不能在 AI 领域胜出，我们将陷入非常糟糕的境地。目前我们在 AI 领域领先中国相当长的一段时间。”

ANTHROPIC 首席执行官就高级 AI 的能力发出警告。推动报道激增的另一个原因是，Anthropic 的联合创始人兼首席执行官达里奥·阿莫代伊承认了这一问题的严重性，并发表了他自己长达 3800 字的文章。

当被 CNN 的安德森·库珀问及他是否真的相信 AI 会杀死全人类时，阿莫代伊表示：“我同意雅各布的成分远多于不同意……他不是在点我们的名，他是在指出整个行业的动态……我认为事情出错是有一定概率的，但并没有那么高。”然而，还有其他噩梦般的场景。

《华尔街日报》指出：“还存在一些达不到灭绝程度的灾难性场景，例如摧毁电网或金融系统并导致人类社会秩序崩溃的大规模网络攻击。”

但媒体也不得不应对动机的问题。一些批评人士表示，Anthropic 和 OpenAI 正在寻求政府监管，以巩固他们对其他公司已经拥有的巨大优势。

科技投资者兼总统科学技术顾问委员会主席大卫·萨克斯在节目中对这两家科技巨头说：“别再假装你们需要别人的许可了……别再假装减速的动机纯粹是利他主义的。如果你们的产品引发了真正具有破坏性的网络攻击，你们将面临巨大的产品责任风险。”

除非竞争对手采取同样做法，否则没有哪家美国公司愿意放慢研究速度。而让中国等国家签署协议的几率微乎其微，就好像这是一项军控协议一样。

ANTHROPIC 首席执行官将 AI 军备竞赛比作美国与苏联的冷战。也很难将政治从这场辩论中剥离出来。巴拉克·奥巴马刚刚敦促民主党候选人将 AI 监管作为他们的“核心议程”之一。

更何况，新闻机构本身也与这个世界纠缠不清。《华盛顿邮报》与 OpenAI 有内容合作关系。而《纽约时报》则因未经授权使用数百万篇文章而起诉了 OpenAI。

我和其他人一样，试图在言论和研究中进行筛选，将确凿的事实与猜测区分开来。最近一家名为 Hugging Face 的公司遭到黑客攻击——OpenAI 部署的“自主”AI 代理联合起来，绕过人类控制，自行实施了这次泄露——这表明这不仅仅是一个理论问题。（英伟达刚刚以 129 美元的价格收购了 Hugging Face——译者注：原文如此，此处保持直译或合乎逻辑。）鉴于巨大的资金投入和巨大的利害关系，这个爆炸式增长的行业似乎也需要某种形式的联邦监管。没有任何其他美国行业获得过如此自由的手腕。

至于所谓的对人类的威胁，简直就像科幻电影一样，我暂时还吃得下睡得着——目前来看是这样。