为什么人工智能不太可能用生物武器消灭人类？

关于失控人工智能将如何消灭人类，最主流的理论之一是什么？生物武器。 今年夏天早些时候，人工智能公司的首席执行官们呼吁制定新法律，以管控合成DNA的制造。随后在上个月，斯坦福大学和Arc研究所的研究人员展示了人工智能可以设计出新的病毒基因组。上周，在Anthropic发布了一份报告后，这一观点进一步发酵。报告指出，曾有人试图以“可能支持生物武器开发”的方式使用Claude。报告作者将生物滥用列为“前

人工智能真的能终结人类吗？我们的技术专家正在回答您的问题

在经过长达一周关于人工智能可能毁灭我们所知的世界的严厉警告之后，我们的科技记者正在进行直播，实时回答您关于AI威胁现实性的问题Pottys99：从现实角度来讲，AI究竟会如何杀死我？主要的间接威胁是什么？核战争、社会崩溃导致的死亡，还是某种病毒？我听到了所有这些关于它可能杀死我们的报道，但仍然不确定这在实际上是如何发生的？老实说，这一切听起来太虚无缥缈了，让人无法认真对待。 无论如何，就目前而言，

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

冷静点——人工智能短期内并不会终结人类。

末日预言正接踵而至。由人工智能引发的人类灭绝似乎迫在眉睫。据称，在十年之内，人工智能将以种种邪恶手段将人类彻底消灭。这是人工智能领域的天才们（甚至人工智能本身）所说的话——他们显然聪明得不会出错。但问题是，谁来修理空调？谁来修补屋顶的破洞、维护发电厂、修复被风吹断的电线、更换老化的服务器，等等？简而言之，没有人类的支持，人工智能既不会存在，也无法存在。人工智能需要电力，而任何发电厂若缺乏人类维护，

别只问AI会不会毁灭人类

“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。

观点 | 人类之前曾避免过末日。让我们再次做到这一点。

在@nytopinion.nytimes.com上，将人工智能的威胁与20世纪40年代人们对核战争的看法进行比较‘是有意义的，因为它提醒我们：当人类社会决定抵制某种危险的创新时，我们是能够做到的’，编辑委员会写道。

倘若AI毁灭人类，是文明的终结，还是人性的反噬

倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份

坐看云起 | 人工智能将如何改变人类发展进程的三大途径

纵观漫长的历史长河，有三股力量推动了人类最重大的变革，疾病、战争和经济增长。通过降低成本，并提高各类商品和服务的可获得性及生产力，人工智能将对这三方面产生深远影响。 历史上，瘟疫和大流行病层出不穷，它们改变了人类人口增长的轨迹。例如，1346年至1353年间，“黑死病”在欧洲、亚洲、中东和北非夺走了7500万至2亿人的生命。 得益于技术进步和医疗创新——这些进步和创新有助于延长预期寿命并降低婴儿死

【解读】人工智能真的会“杀光所有人”吗？

上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式

AI不必杀死所有人类才能带来灾难。模型制造者……

AI不必杀死所有人类才能带来灾难。模型制造者的警告应被认真对待。然而，美国要在保持对华领先的同时确保AI安全，将十分艰难。

人工智能面临的最大威胁来自生物领域，而非机器人技术。

Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的

气候、核与流行病政策可指引我们应对人工智能威胁

上周关于人工智能的热议再次揭示了一个事实：它可能将人类的未来置于严重风险之中。这些新闻让人联想到人工智能接管世界的噩梦场景，就像《终结者》和其他好莱坞史诗大片中那样，人工智能利用智能体独立于人类控制之外去实现其自身目的。 如果人工智能确实具有潜在的生存威胁，那么至少还有其他三种威胁社会的因素同样不容忽视，即气候变化、大规模流行病和热核武器。对这三者的考量或许能为人工智能提供借鉴，帮助我们了解如何控

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

AI的最大威胁来自生物学，而非机器人技术

人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地

一本关于生物战争的畅销书作者对人工智能的看法

最近，我们频繁听到有关AI导致人类灭绝这一幽灵般的威胁。也许，我们对AI智能的误信会引爆第三次世界大战。或者，AI智能体会发动大范围网络攻击，接管互联网。一旦获得过多自主权，机器就会失控横冲直撞。它们甚至可能试图欺骗创造者——等等，这已经发生了。假设它们像史密斯探员一样得出结论：“人类……是一种瘟疫，而我们是解药。”又或者，聊天机器人会帮助坏人释放字面意义上的瘟疫——一种生物武器。 这最后一种情况

军事智能？由人工智能主导核武器是个糟糕的主意。

智能是一回事，机器可以被赋予智能。但智慧、道德和直觉是人类独有的领域。人类绝不应该被从指挥链中移除。

Anthropic披露其挫败了利用AI驱动的生物武器研究

AI初创公司Anthropic披露，2026年期间，该公司挫败了多起科学家试图利用其AI模型进行可能促进生物武器研发的尝试。 该公司表示，由于无法区分正当的科学探索与恶意企图，出于谨慎考虑以避免严重后果，公司决定终止此类研究工作。 Anthropic威胁情报主管Jacob Klein（雅各布·克莱恩）强调了这类威胁的复杂性，而战略风险委员会（Council on Strategic Risks）的

AI 不会终结人类……对吧？——播客

AI 不会终结人类……对吧？——Full Story 播客 科技界的一系列人物一直在就人工智能带来的生存威胁发出警告——甚至为此辞职。我们究竟该有多担心？《今日焦点》主持人安妮·凯利与科技编辑罗伯特·布斯展开对话

近半数年轻人更信任人工智能而非人类

Anthropic称已阻止其AI被滥用于支持生物武器

电脑屏幕上的Anthropic网站，2026年2月26日。

关于AI末日的争论越来越离谱了。AI是一种产品，不是神。

人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。首

北约退役少将：AI尚未在战争中得到全面检验

人工智能技术和武器在战场上的运用越来越多，其风险和伦理问题也愈发受到此外，论坛还安排了高端访谈活动，围绕中美构建建设性战略稳定关系、乌克兰危机、中东和平前景、人工智能与未来战争等议题设置闭门学术会议，为各方坦诚交流、增信释疑提供了重要平台。 对于人工智能技术和武器在战场上的运用，葡萄牙里斯本自治大学研究员，北约总部国际军事参谋部合作与地区安全司前司长、退役少将卡洛斯·布兰科在论坛期间接受澎湃新闻等

人工智能将如何消灭我们所有人（如果最糟糕的恐惧成为现实）

人工智能研究人员周二公开承认，在未来十年内人工智能消灭人类的可能性并非零，这一表态震惊了世界。 虽然人工智能末日的担忧已经存在多年，但随着这项技术变得更加强大并融入我们的生活，这些警告正在进入主流视野。 专家普遍担忧人类将极具威力的人工智能武器化或失控的两大途径，其中包括恶意行为者利用人工智能制造生化武器，或者失控的系统在逃避人类监督的同时对基础设施发动前所未有的攻击。

AI造出了病毒，完成首杀

科学家把一些物质注入了溶液中的大肠杆菌。没过多久，显微镜下的细胞壁爆破，细菌死了。 杀死这个大肠杆菌的，是使用人工智能软件Evo研发的噬菌体病毒。 今年8月，来自斯坦福大学和Arc研究所的科学家在人工智能生成的数千种基因组中，发现其中16种是具有生命力并且能够吞噬耐药性大肠杆菌的病毒。 可以说，这是人工智能第一次成功“制作”出有机生物体。负责研发的机构发布报告称，这项研发“为针对快速演变的病原体开