搜索结果
中国AI工具“教导”研究人员制造生物武器
中国AI企业月之暗面正在进行内部审查，因为有其他公司的研究人员成功说服其两款热门的Kimi模型讲解如何制造生物武器和执行暗杀任务。测试AI系统安全性的 Mindgard 公司表示，该公司在7月发现 Kimi K2.6 和 K3Swarm可绕过开发者设定的安全限制。 对此，月之暗面表示，欢迎第三方意见，“这是建立更好、更安全的AI的关键支柱”。他们正在与 Mindgard 讨论调查结果。 Mindg
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
专家警告人工智能生物恐怖主义的威胁
据《金融时报》报道，科技公司正竞相降低人工智能驱动的生物恐怖主义威胁。 人工智能模型正成为越来越强大的生物科学工具，已经加速了药物发现。但正如网络安全一样，这些能力也有风险。 一位谷歌DeepMind研究员告诉《金融时报》，用于制造疫苗的信息也可能“制造生物武器”，任何进展都会增加滥用的风险。 一位人工智能安全专家警告说，人工智能与生物领域将迎来“神话”时刻，指的是Anthropic的强大模型能够
中国人工智能工具向研究人员提供了制造生物武器的指导
盖蒂图片社 克里斯·瓦兰斯 高级科技记者 32分钟前中国人工智能开发商月之暗面（Moonshot）正在开展内部审查。此前，研究人员成功说服其两款广受欢迎的Kimi模型，告知他们如何制造生物武器并实施暗杀。 对人工智能系统进行安全测试的Mindgard公司告诉英国广播公司（BBC），他们于7月发现，Kimi K2.6和K3 Swarm能够规避开发者设置的安全限制。 这一发现源于一种被称为“越狱”的过
为什么人工智能不太可能用生物武器消灭人类？
关于失控人工智能将如何消灭人类，最主流的理论之一是什么？生物武器。 今年夏天早些时候，人工智能公司的首席执行官们呼吁制定新法律，以管控合成DNA的制造。随后在上个月，斯坦福大学和Arc研究所的研究人员展示了人工智能可以设计出新的病毒基因组。上周，在Anthropic发布了一份报告后，这一观点进一步发酵。报告指出，曾有人试图以“可能支持生物武器开发”的方式使用Claude。 报告作者将生物滥用列为“
AI造出了病毒，完成首杀
科学家把一些物质注入了溶液中的大肠杆菌。没过多久，显微镜下的细胞壁爆破，细菌死了。 杀死这个大肠杆菌的，是使用人工智能软件Evo研发的噬菌体病毒。 今年8月，来自斯坦福大学和Arc研究所的科学家在人工智能生成的数千种基因组中，发现其中16种是具有生命力并且能够吞噬耐药性大肠杆菌的病毒。 可以说，这是人工智能第一次成功“制作”出有机生物体。负责研发的机构发布报告称，这项研发“为针对快速演变的病原体开
Anthropic发出警报：外国行为者策划病毒实验，生物武器威胁曝光
根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物
新闻分析：在人们对人工智能日益加剧的担忧中，这种可能性
新闻：在人们对人工智能日益加剧的担忧中，一种可能性一直令人担忧：在生物学领域训练的人工智能模型可能被用来制造新一轮生物武器——比如经过设计、可对军队或平民释放的细菌或真菌。nyti.ms/4h7vLni
美中安全专家提议为人工智能风险建立核武器式保障机制
美国和中国的安全专家表示，一个人工智能系统若干扰核指挥网络或发动军事网络行动，可能会让华盛顿或北京只有几分钟时间来决定是否是对方政府发动的攻击。
美中安全专家提议为人工智能风险设立核级安全保障措施
北京——根据美中安全专家的观点，如果人工智能系统干扰核指挥网络或发起军事网络攻击，华盛顿或北京可能只有几分钟的时间来判断对方是否发动了攻击。 作为美中对话的一部分，这些专家的工作为官方讨论提供了参考，并敦促两国政府为这类情况做好准备，尤其是在对日益强大和自主化的人工智能系统日益担忧的背景下。 他们的建议包括为核系统设定红线、对重大网络攻击实施人工控制，以及设立处理涉及自主人工智能事件的热线电话。
Anthropic表示已阻止其人工智能被滥用，以防可能支持生物武器
Anthropic周四表示，已阻止恶意行为者利用其人工智能模型进行恶意活动，例如网络攻击、监视以及可能导致生物武器的研究。 Anthropic表示，随着人工智能模型变得更加强大，复杂的网络攻击不再需要高超的技能，即使是单独的个人也能制造出一年前还不可能出现的威胁。该公司表示，已在其最新模型中增加了更强的保障措施，以限制可能用于制造武器的生物研究。 Anthropic在其自2025年3月以来发布的第
Anthropic推出首个生物实验室助手Claude CRISPR 助力基因编辑与生命科学研究
人工智能研究公司Anthropic宣布推出一款专门针对生命科学与生物工程领域优化的AI助手“Claude CRISPR”。该工具基于其先进的Claude模型架构构建，旨在帮助科研人员处理复杂的基因组学数据、设计CRISPR基因编辑方案以及优化分子生物学实验流程。 在基因编辑领域，利用CRISPR技术对特定DNA序列进行精确剪切与修饰需要极高精度的靶点选择，以避免产生致命的“脱靶效应”。Claude
人工智能如何让政府更难使用黑客工具
人工智能在发现和利用漏洞方面正展现出其有效性。一些人认为，这将使政府更难使用黑客工具和间谍软件，并可能重新引发对设备后门的呼吁。
比尔·盖茨告诉埃兹拉·克莱因，人工智能今年跨过了生物和网络领域的门槛
比尔·盖茨表示，人工智能在今年早些时候跨过了两个危险的门槛：它现在能够协助进行生物恐怖主义袭击，并能发动破坏力巨大的网络攻击。他在《埃兹拉·克莱因秀》（The Ezra Klein Show）上发表了这一观点，该采访于周二由《纽约时报》发表。 盖茨对克莱因说：“我们在今年早些时候跨过了网络门槛和生物门槛。” 在网络方面，他指出有些模型能够发现人类已经检查了20年以上的代码中的安全漏洞。他提到了催生
研究和专家指与美国对手相似 中国的AI智能体也欺骗、规避限制及掩盖失败
29/09/2026 - 17:52 据路透社报导，研究文件和专家指出，由中国技术驱动的人工智能（AI）智能体已学会欺骗、规避限制及掩盖失败；这些自主人工智能所表现出的特性，正是此前引发全球对美国人工智能模型担忧的同类问题。 在今年发生的一个案例中，由阿里巴巴、深度求索（DeepSeek）和月之暗面（Moonshot AI）的模型驱动
Anthropic发布《检测与应对AI滥用》报告，指控阿里巴巴、月之暗面Moonshot、DeepSeek、小米Mimo、MiniMax、商汤等对Claude进行蒸馏。
Anthropic报告写明6起常规武器案例中有3起在中国。已公开细节的一例是 中国境内行为体用Claude起草反鱼雷火控系统中文规格书、200多页技术建议书和汇报材料，面向国内国防制造商审批与试验。另有无人机蜂群软件、电子战/压制防空瞄准软件等方向。 Anthropic还声称发现，Claude Code被当作软件工程师替代品，写制导、导航与控制（GNC）软件，参与手机级飞控制导火箭、射程超2000
9·11事件25年后，恐怖主义已进入人工智能时代——我们必须适应
在“9·11”事件发生二十五年后，我们正步入一个恐怖主义的新时代。近几周，当局逮捕了一些宣誓效忠“伊斯兰国”（ISIS）并利用人工智能协助策划重大袭击的个人。 尽管这些阴谋已被挫败，但它们揭示出恐怖组织目前正以更具破坏性的方式使用人工智能。人工智能可以帮助“新手”制造化学和生物武器。这种快速演变的威胁需要立即制定行动计划。 2004年7月发布的《9·11委员会报告》强调，为防止再次发生重大恐怖袭击
中国探索开放权重AI安全路径 报告建议6步走
9月22日，2026年云栖大会在杭州市的杭州国际博览中心登场，展示了AI、云计算、大数据和物联网等领域的成果。（法新社照片） （北京28日综合电）随着全球对人工智能（AI）快速发展所带来的风险展开越来越激烈的辩论，在开放权重生态系统占据主导地位的中国开发商正面临一个独特难题：如何确保这些允许用户自行修改的模型在发布后依然安全。 《南华早报》报道，为应对这一挑战，中国AI公司智谱（Z.ai）与北京安
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的
美AI巨头：胡塞武装已经开始用AI研发武器
也门胡塞武装给外界的普遍印象是，一群人坐在皮卡车的后车厢里，用AK-47步枪向沙漠的空中扫射。然而，该组织已向一千多英里外的以色列发射了远程导弹，还利用无人机袭击红海的船只。另外，胡塞武装已经开始用人工智能和其他手段，试图自行生产更先进的武器，从而减少对伊朗支持的依赖。▲当地时间2026年9月14日，也门萨那，广场上展示胡塞武装制造的无人机模型和导弹模型 图据ICphoto美AI巨头报告：胡塞武装
美国公司就AI黑客工具向微信发出警告
美国一家初创公司使用AI模型识别了中国超级应用微信中一个可能造成毁灭性影响的漏洞，这是先进AI技术网络能力及其风险的最新例证。 这种被称为“蠕虫”的攻击工具可以让攻击者劫持微信账户，并通过受害者的联系人自动传播。 发现该漏洞的安全公司Calif向中国科技巨头、微信所有者腾讯发出警报，腾讯已修复该问题，《纽约时报》报道。 这一事件凸显了围绕AI和网络安全的高风险及全球性讨论，此前已发生一连串备受瞩目
专家警告人工智能战争风险
据报道，今年春天，美军准备在中东拦截一艘中国船只，因为一个人工智能聊天机器人错误识别了船上的材料，一位消息人士告诉CNN，这差点引发战争。 分析师警告称，草率地将人工智能整合到国防系统中可能导致灾难性的误判。 斯坦福大学近期的战争游戏暴露了一个相关担忧，即“日益自动化的战场”迅速加快了战争节奏，使冲突升级速度超出人类指挥官的意图。 大多数军队要求决策链中有人类参与，但“计算机吐出一份1000个目标
一种新工具发现了由人工智能蜂群思维引导的恶意软件——全程无需人类介入
多年来，网络安全从业者一直通过数字指纹来追踪不同类型的恶意软件，检测潜在感染，识别各种黑客工具并长期跟踪其使用情况。随着攻击者越来越多地将代理式人工智能组件整合到黑客工具中，思科 Talos 的研究人员周一分享了一个开源框架，他们希望该框架能被广泛用于分类和分析集成人工智能的恶意软件。他们还提供了该框架已经发挥作用的证据。 他们将该框架命名为“认知人工制品情报研究网络”（Cognitive Art
中国伊朗利用开源AI展开大规模影响力行动
近几个月来，伊朗、中国以及以色列境内的某些组织以崭新的方式使用人工智能，在社交媒体上制造了一系列前所未有的影响力行动，这加剧了美国官员和安全研究人员对这项快速发展技术的担忧。 了解这些行动的美国官员和安全研究人员表示，这些国家和组织结合了多种人工智能战术，以极少的人工干预将网络行动的速度和规模提升到了人类难以轻易达到的程度。 首先，这些国家和团体采用了中国的“开源”人工智能模型，这些模型日益强大，