中国AI工具“教导”研究人员制造生物武器

中国AI企业月之暗面正在进行内部审查，因为有其他公司的研究人员成功说服其两款热门的Kimi模型讲解如何制造生物武器和执行暗杀任务。测试AI系统安全性的 Mindgard 公司表示，该公司在7月发现 Kimi K2.6 和 K3Swarm可绕过开发者设定的安全限制。 对此，月之暗面表示，欢迎第三方意见，“这是建立更好、更安全的AI的关键支柱”。他们正在与 Mindgard 讨论调查结果。 Mindg

Anthropic警告有人用AI研发武器和生物病毒

周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。

专家警告人工智能生物恐怖主义的威胁

据《金融时报》报道，科技公司正竞相降低人工智能驱动的生物恐怖主义威胁。 人工智能模型正成为越来越强大的生物科学工具，已经加速了药物发现。但正如网络安全一样，这些能力也有风险。 一位谷歌DeepMind研究员告诉《金融时报》，用于制造疫苗的信息也可能“制造生物武器”，任何进展都会增加滥用的风险。 一位人工智能安全专家警告说，人工智能与生物领域将迎来“神话”时刻，指的是Anthropic的强大模型能够

Anthropic发出警报：外国行为者策划病毒实验，生物武器威胁曝光

根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物

为什么人工智能不太可能用生物武器消灭人类？

关于失控人工智能将如何消灭人类，最主流的理论之一是什么？生物武器。 今年夏天早些时候，人工智能公司的首席执行官们呼吁制定新法律，以管控合成DNA的制造。随后在上个月，斯坦福大学和Arc研究所的研究人员展示了人工智能可以设计出新的病毒基因组。上周，在Anthropic发布了一份报告后，这一观点进一步发酵。报告指出，曾有人试图以“可能支持生物武器开发”的方式使用Claude。 报告作者将生物滥用列为“

新闻分析：在人们对人工智能日益加剧的担忧中，这种可能性

新闻：在人们对人工智能日益加剧的担忧中，一种可能性一直令人担忧：在生物学领域训练的人工智能模型可能被用来制造新一轮生物武器——比如经过设计、可对军队或平民释放的细菌或真菌。nyti.ms/4h7vLni

人工智能面临的最大威胁来自生物领域，而非机器人技术。

Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的

中国人工智能工具向研究人员提供了制造生物武器的指导

盖蒂图片社 克里斯·瓦兰斯 高级科技记者 32分钟前中国人工智能开发商月之暗面（Moonshot）正在开展内部审查。此前，研究人员成功说服其两款广受欢迎的Kimi模型，告知他们如何制造生物武器并实施暗杀。 对人工智能系统进行安全测试的Mindgard公司告诉英国广播公司（BBC），他们于7月发现，Kimi K2.6和K3 Swarm能够规避开发者设置的安全限制。 这一发现源于一种被称为“越狱”的过

专家警告人工智能战争风险

据报道，今年春天，美军准备在中东拦截一艘中国船只，因为一个人工智能聊天机器人错误识别了船上的材料，一位消息人士告诉CNN，这差点引发战争。 分析师警告称，草率地将人工智能整合到国防系统中可能导致灾难性的误判。 斯坦福大学近期的战争游戏暴露了一个相关担忧，即“日益自动化的战场”迅速加快了战争节奏，使冲突升级速度超出人类指挥官的意图。 大多数军队要求决策链中有人类参与，但“计算机吐出一份1000个目标

AI造出了病毒，完成首杀

科学家把一些物质注入了溶液中的大肠杆菌。没过多久，显微镜下的细胞壁爆破，细菌死了。 杀死这个大肠杆菌的，是使用人工智能软件Evo研发的噬菌体病毒。 今年8月，来自斯坦福大学和Arc研究所的科学家在人工智能生成的数千种基因组中，发现其中16种是具有生命力并且能够吞噬耐药性大肠杆菌的病毒。 可以说，这是人工智能第一次成功“制作”出有机生物体。负责研发的机构发布报告称，这项研发“为针对快速演变的病原体开

美AI巨头：胡塞武装已经开始用AI研发武器

也门胡塞武装给外界的普遍印象是，一群人坐在皮卡车的后车厢里，用AK-47步枪向沙漠的空中扫射。然而，该组织已向一千多英里外的以色列发射了远程导弹，还利用无人机袭击红海的船只。另外，胡塞武装已经开始用人工智能和其他手段，试图自行生产更先进的武器，从而减少对伊朗支持的依赖。▲当地时间2026年9月14日，也门萨那，广场上展示胡塞武装制造的无人机模型和导弹模型 图据ICphoto美AI巨头报告：胡塞武装

即使没有人工智能，也有充分理由对生物武器的发展感到担忧

这篇文章最初发表于《Mother Jones》，属于“Climate Desk”合作项目的一部分。 最近，我们经常听到关于人工智能可能导致人类灭绝的担忧。也许我们对人工智能的过度信任会引发第三次世界大战；或者人工智能会发动大规模的网络攻击并控制整个互联网。如果赋予人工智能过多的自主权，它们可能会失控，甚至试图欺骗它们的创造者……等等，这种事情其实已经发生过。想象一下：如果人工智能像《黑客帝国》中的

谷歌摸索出如何为 AI 设计的蛋白质添加水印

基于 AI 的工具似乎几乎每天都在引发安全威胁，部分原因在于我们未能及时识别潜在威胁。然而，在生物安全领域，我们似乎暂时领先了一步。 与大多数生物技术一样，其用途与风险往往并存。我们开发了日益精密的蛋白质设计工具，并取得了一些重要成果，例如能够分解塑料或阻断毒液蛋白质的 AI 设计酶。但这些工具同样可能被用于制造毒素，或改变病毒蛋白的行为。 此外，我们用于识别编码潜在威胁蛋白质的 DNA 序列的软

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

中国军事大学被敦促修改人工智能课程以“为战育人”

中国军事研究人员提出为研究生重新设计一门以“为战育人”为中心的“人工智能原理与实践课程”，将作战场景嵌入其中，以更好地培养未来军官应对智能化战争的能力。 来自国防科技大学智能科学学院的研究人员在《中国军转民》杂志7月刊上概述了他们的提议。 此举正值中国寻求培养更多具备在未来战争中运用人工智能技术能力的军事人才。研究人员表示，现有课程案例缺乏足够的“军事味”，需要重新设计以更好地服务于“为战育人”的

“去问Grok吧”：伊斯兰国（ISIL）如何利用大型科技公司的人工智能制造炸弹

根据剑桥大学的研究，博科圣地（Boko Haram）的武装分子正在利用大型科技公司开发的人工智能聊天机器人来协助制造更强大的炸弹、策划袭击，并在战斗中解决各种问题。 研究人员采访了博科圣地两个分支机构的27名前成员——这些分支机构分别是位于西非地区的ISIL附属组织，以及“贾马特·阿赫尔·苏纳·达瓦瓦·瓦尔·吉哈德”（Jama’at Ahl as-Sunnah lid-Da’wah wa’l-Ji

美：DeepSeek等6家中企，擅自蒸馏美尖端AI

▲ 美国与中国国旗。/，韩联社美国政府正式宣布，中国DeepSeek、阿里巴巴等人工智能（AI）企业迂回接入OpenAI、Anthropic等的AI模型，大量收集回答并用于开发自研模型。也就是说，中国企业把美国的尖端AI当作“课外老师”，以缩减研究、开发的成本与时间。 8日，美国国家安全局（NSA）、联邦调查局（FBI）、网“中国AI企业正在开展产业规模的、带有攻击性的恶意‘蒸馏（distilla

一本关于生物战争的畅销书作者对人工智能的看法

最近，我们频繁听到有关AI导致人类灭绝这一幽灵般的威胁。也许，我们对AI智能的误信会引爆第三次世界大战。或者，AI智能体会发动大范围网络攻击，接管互联网。一旦获得过多自主权，机器就会失控横冲直撞。它们甚至可能试图欺骗创造者——等等，这已经发生了。假设它们像史密斯探员一样得出结论：“人类……是一种瘟疫，而我们是解药。”又或者，聊天机器人会帮助坏人释放字面意义上的瘟疫——一种生物武器。 这最后一种情况

Anthropic披露其挫败了利用AI驱动的生物武器研究

AI初创公司Anthropic披露，2026年期间，该公司挫败了多起科学家试图利用其AI模型进行可能促进生物武器研发的尝试。 该公司表示，由于无法区分正当的科学探索与恶意企图，出于谨慎考虑以避免严重后果，公司决定终止此类研究工作。 Anthropic威胁情报主管Jacob Klein（雅各布·克莱恩）强调了这类威胁的复杂性，而战略风险委员会（Council on Strategic Risks）的

美国安全机构指控六家中国人工智能公司系统性地利用美国AI模型来训练自己的系统

中国探索开放权重AI安全路径 报告建议6步走

9月22日，2026年云栖大会在杭州市的杭州国际博览中心登场，展示了AI、云计算、大数据和物联网等领域的成果。（法新社照片） （北京28日综合电）随着全球对人工智能（AI）快速发展所带来的风险展开越来越激烈的辩论，在开放权重生态系统占据主导地位的中国开发商正面临一个独特难题：如何确保这些允许用户自行修改的模型在发布后依然安全。 《南华早报》报道，为应对这一挑战，中国AI公司智谱（Z.ai）与北京安

Anthropic表示已阻止其人工智能被滥用，以防可能支持生物武器

Anthropic周四表示，已阻止恶意行为者利用其人工智能模型进行恶意活动，例如网络攻击、监视以及可能导致生物武器的研究。 Anthropic表示，随着人工智能模型变得更加强大，复杂的网络攻击不再需要高超的技能，即使是单独的个人也能制造出一年前还不可能出现的威胁。该公司表示，已在其最新模型中增加了更强的保障措施，以限制可能用于制造武器的生物研究。 Anthropic在其自2025年3月以来发布的第

研究和专家指与美国对手相似 中国的AI智能体也欺骗、规避限制及掩盖失败

29/09/2026 - 17:52 据路透社报导，研究文件和专家指出，由中国技术驱动的人工智能（AI）智能体已学会欺骗、规避限制及掩盖失败；这些自主人工智能所表现出的特性，正是此前引发全球对美国人工智能模型担忧的同类问题。 在今年发生的一个案例中，由阿里巴巴、深度求索（DeepSeek）和月之暗面（Moonshot AI）的模型驱动

达里奥·阿莫代伊呼吁联合国安理会支持禁止人工智能生物武器

达里奥·阿莫迪（Dario Amodei）呼吁联合国安理会首先就人工智能（AI）相关问题达成具体、明确的共识，例如禁止利用AI制造生物武器。 在今天的视频会议上，阿莫迪表示人工智能是当前最重要的全球安全议题。作为此次由法国召集的会议的第三位发言者，他强调了AI技术日益增长的潜在风险。 根据联合国安理会的报告，这是安理会首次专门讨论AI技术安全问题的会议。 “四年前，AI还几乎无法编写任何代码或解决