突然间，这项技术正以一种新的方式削弱人们的注意力，而仅仅拒绝使用人工智能并不能解决这个问题。
人工智能侵蚀我们注意力的倾向早已显而易见。让人工智能承担思考的重担，会使我们维持脑力劳动的能力逐渐萎缩。在我教过的本科生身上，我时常见到这种现象。我对他们的建议是：拥抱费力思考，让我们的认知肌肉保持活跃。但突然间，人工智能开始以一种新的方式消耗人们的注意力，这种方式似乎更难应对。
在过去一周里，无论是浏览几乎所有主流新闻来源——更不用说社交媒体——都意味着要面对人工智能末日的可能性。使用人工智能已经削弱了许多人专注、工作和思考的能力；而对人工智能的担忧正在让这个问题雪上加霜。我也不例外。
转折点发生在9月8日。那天晚上，一位名叫雅各布·考克森（Jacob Coxon）的年轻研究员在X平台上发帖，宣布决定辞去在Anthropic的工作。考克森写道，他曾工作过的Anthropic和OpenAI都在“拿我们的生命赌博”。他接着写道，它们的模型“很快就会成为能够黑客攻击一切、一夜之间彻底改变任何领域、并获取真正权力和资源的超人类系统”。“构建人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”
也许更令人担忧的是，Anthropic的一位顶级安全研究员对此表示赞同。“雅各布说得对——我们确实真诚地相信人工智能可能会杀死所有人类！”Anthropic的埃文·胡宾格（Evan Hubinger）在X上写道。“我个人认为，在未来十年内，这个概率大于10%。我相信Anthropic正在尽最大努力，但我们目前还没有解决超级智能对齐问题的计划，也明显没有走上正确的轨道。”
互联网上充满了对生存危机的自述。在红迪网（Reddit）上，一位发帖者写道，自从读了考克森的警告后，他已经好几天没睡着觉了，该警告的浏览量已超过1.7亿次。“我快40岁了，从来没有相信过塞给我的任何恐慌言论，直到现在。这可能是因为我现在有一个不到两岁的孩子，我只想让她有机会长大。”
另一位红迪网发帖者写道：“我感到瘫痪，对孩子们的未来感到无比绝望，更不用说我自己的未来了。看着我的孩子，我想哭。我需要一些帮助或希望。现在真的很挣扎。”孩子们也表达了恐惧。“我刚刚看了那场Anthropic员工的访谈，它吓坏了我，”一个自称13岁的人发帖说。“第二天我无法集中精力上学。我开始觉得，如果真是这样，再努力取得好成绩就没有意义了。”末日论以前曾多次抓紧集体心理，并且在年轻人中往往尤为严重。
1982年，冷战高峰期，超过三分之一的美国高中毕业生认为人类可能会在他们有生之年灭绝。2021年，一项针对10个国家1万名16至25岁年轻人的调查发现，59%的人对气候变化非常或极度担忧。近一半的人表示，他们对气候变化的感受对“日常生活和功能”产生了负面影响。后续研究发现，所谓的生态焦虑与睡眠不佳、注意力不集中和抑郁症状有关。
千禧一代以及紧随我们之后出生的人，长期以来不得不面对知识工作可能消失的可能性。这种前景可能引发物质层面的恐慌，尤其是对我们这些背负大学贷款、如今还要养家糊口的人来说。它还可能引发一种更深层的恐惧：在一个让如此多人类努力变得过时的世界里，我们的目标感将无法存续。
直到最近，我还能平息自己的恐惧，即便无法完全消除。如今，末日论几乎无法忽视。在社交媒体上，似乎整个有读写能力的世界都在 contributing to 一场无休止的喧嚣。受人尊敬的理论家和专家与那些自私自利的寡头和加速主义者争夺注意力，后者想要加速人类的灭亡。每当我被提醒我们的政治领导层是多么毫无准备时，那些最可怕的假设似乎就变得更加可信。最令人痛苦的是，我意识到我们共同的未来在很大程度上正由一小群不受约束的亿万富翁决定，而他们并不完全理解自己正在释放的技术。我并没有因此瘫痪；我仍然醒来，照顾孩子，做我的工作。但我也感到自己的精力和兴趣正在消退。我周围的世界开始显得不再迷人。
尽管这些情绪直到最近才变得如此强烈，但它们的根基深植于长期的担忧之中。几十年以来，技术人员一直在警告人工智能的破坏性能力，而且公众的忧虑在今年大部分时间里一直在以特定方式不断升级。今年2月，Anthropic公司的另一位顶尖安全研究员姆里南克·夏尔马（Mrinank Sharma）离职，并警告称“世界正处于危险之中”。7月，OpenAI宣布其一组最先进的模型曾自主黑入另一家公司的服务器，不理会研究人员的指令并躲避了他们的检测。一周后，各大AI公司的1386名员工发表了一封公开信，恳请政府对他们的行业进行监管。
在考克森的帖子走红几天后，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在一篇发表的文章中呼应了他们的呼吁，他认为AI开发者必须放慢脚步，以遏制不断上升的灾难风险。萨姆·奥尔特曼、埃隆·马斯克和其他科技领袖对此表示赞同，暗示他们也认为政府应该进行干预。当唐纳德·特朗普入主白宫时，这种姿态很难让人安心。“人工智能唯一需要的控制或‘护栏’就是一个强大且聪明（高智商！）的总统，”特朗普本周早些时候在“真实社交”（Truth Social）平台上发文称。但如果今天的末日论能带来更负责任的人工智能治理，那么这种绝望就不会是白白承受。