Anthropic发出警报：外国行为者策划病毒实验，生物武器威胁曝光

根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物

AI实验室正在削减模型成本——这可能有助于它们安全地放缓步伐

专家表示，人工智能技术的发展正朝着更强大、成本更低的模型方向迈进，这或许为“安全地减缓技术发展速度”提供了可能性。 为何这很重要：包括 OpenAI 和 Anthropic 在内的美国顶尖初创企业，以及其他人工智能公司，都必须找到一条在经济上可行的路径来减缓自身的发展速度。否则，经济上的激励因素将会过于强大，迫使它们继续加速研发。 新闻背后的原因：当前，整个美国经济的繁荣在很大程度上依赖于人工智能

AI开始“要脸”了

AI造出了病毒，完成首杀

科学家把一些物质注入了溶液中的大肠杆菌。没过多久，显微镜下的细胞壁爆破，细菌死了。 杀死这个大肠杆菌的，是使用人工智能软件Evo研发的噬菌体病毒。 今年8月，来自斯坦福大学和Arc研究所的科学家在人工智能生成的数千种基因组中，发现其中16种是具有生命力并且能够吞噬耐药性大肠杆菌的病毒。 可以说，这是人工智能第一次成功“制作”出有机生物体。负责研发的机构发布报告称，这项研发“为针对快速演变的病原体开

微软发布Quine生物学“世界模型” AI有望将药物研发周期从数月缩短至数天

微软研究院近日正式发布名为Quine的人工智能科研系统，并将其定义为面向生命科学领域的“生物学世界模型”。该系统旨在帮助科学家理解复杂生物机制、加速药物发现过程，并推动癌症等重大疾病研究取得突破。 微软表示，过去数十年间，公司持续在计算生物学领域投入研究，覆盖免疫学、病毒学、基因组学、生物医学成像、细胞生物学和蛋白质工程等多个方向。随着生命科学研究日益复杂，传统模型往往只能处理单一领域数据，而现实

一款廉价软件抹去了博思艾伦自己的AI威胁排名

博思艾伦将全球18个最先进的AI模型部署到一个实时企业网络上，并让它们尝试入侵。其中一个成功完成了任务。 这家咨询公司表示，由此产生的排名并不是人们应该从中得到的重点。周三发布的《网络武器指数》对九个美国[…]进行了评分。

美俄两国削弱联合国AI武器协议，删除人机协同监督机制

2026年9月，美俄外交官在瑞士参加了联合国关于制定致命性自主武器监管条约的谈判。 尽管此次会谈在达成全球杀手机器人武器协议方面取得了重大进展，但美俄两国成功地通过删除对人工智能生成目标进行人工审查的要求以及剥夺其他保障措施，削弱了该协议的效力。

即使没有人工智能，也有充分理由对生物武器的发展感到担忧

这篇文章最初发表于《Mother Jones》，属于“Climate Desk”合作项目的一部分。 最近，我们经常听到关于人工智能可能导致人类灭绝的担忧。也许我们对人工智能的过度信任会引发第三次世界大战；或者人工智能会发动大规模的网络攻击并控制整个互联网。如果赋予人工智能过多的自主权，它们可能会失控，甚至试图欺骗它们的创造者……等等，这种事情其实已经发生过。想象一下：如果人工智能像《黑客帝国》中的

批评者警告称，人工智能军事瞄准的速度可能比人类验证的速度更快

目击者周三告诉国会，人类的批准可能不足以确保对人工智能决策的手动控制，因为人工智能在军事目标识别和建议中发挥了更大的作用，从而压缩了可用的干预时间。批评者表示，这种担忧不仅限于可以自行选择和攻击目标的武器。 在题为“人工智能对人权的军事影响”的听证会上，目击者告诉汤姆·兰托斯人权委员会成员，人工智能可以影响人类的决定，导致罢工，同时让个人正式负责最终通话。 乌克兰人工智能治理研究员安娜·梅西辛（A

人工智能技能差距日益扩大，而学校仍在等待完美答案

人工智能不再是教育面临的未来挑战。它已经在改变人们写作、分析、设计和构建的方式。然而，许多学校仍主要将其视为学生可能滥用的捷径。 这种反应可以理解，但它让教师得不到支持，也让学生为一个正在消失的世界做准备。这一差距正在……

9·11事件25年后，恐怖主义已进入人工智能时代——我们必须适应

在“9·11”事件发生二十五年后，我们正步入一个恐怖主义的新时代。近几周，当局逮捕了一些宣誓效忠“伊斯兰国”（ISIS）并利用人工智能协助策划重大袭击的个人。 尽管这些阴谋已被挫败，但它们揭示出恐怖组织目前正以更具破坏性的方式使用人工智能。人工智能可以帮助“新手”制造化学和生物武器。这种快速演变的威胁需要立即制定行动计划。 2004年7月发布的《9·11委员会报告》强调，为防止再次发生重大恐怖袭击

谷歌摸索出如何为 AI 设计的蛋白质添加水印

基于 AI 的工具似乎几乎每天都在引发安全威胁，部分原因在于我们未能及时识别潜在威胁。然而，在生物安全领域，我们似乎暂时领先了一步。 与大多数生物技术一样，其用途与风险往往并存。我们开发了日益精密的蛋白质设计工具，并取得了一些重要成果，例如能够分解塑料或阻断毒液蛋白质的 AI 设计酶。但这些工具同样可能被用于制造毒素，或改变病毒蛋白的行为。 此外，我们用于识别编码潜在威胁蛋白质的 DNA 序列的软

企业主导制定AI安全标准，安全事件激增

前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A

大西洋月刊：接连不断的危机表明，美国的高等教育毫无意义

本文刊发在大西洋月刊，作者伊恩·博戈斯特是《大西洋月刊》的特约撰稿人。他是圣路易斯华盛顿大学文理学院和山姆·福克斯设计与视觉艺术学院的芭芭拉和戴维·托马斯杰出教授，同时也是该校计算机科学与工程学教授。博戈斯特著有11本书，最新著作是《小事：如何过上更充实的生活》。他也是一位屡获殊荣的游戏设计师，其作品已被数百万玩家体验，并被包括史密森尼美国艺术博物馆在内的国际知名机构收藏。 人工智能刚进入大学校

人工智能是否正在提高生物战的可能性？

几十年来，生物武器的威胁一直笼罩着世界。

中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险

来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响

人工智能研究革命：为何取得进展可能意味着打破体系

在现代历史的大部分时间里，发现的步伐一直受到人类消化、分析以及利用现有知识的能力的限制。然而，人工智能（AI）正在改变这一状况。无论是在学术界、政府机构还是企业中，研究人员都需要花费大量时间来阅读文献、进行实验、分析数据、发表研究成果，并申请资金支持。只有当这些研究成果被广泛传播后，其他研究人员才能在此基础上继续进行研究，或者从中发现新的研究方向。 AI有潜力加速这一过程的每一个环节。像 Clau

从幻觉AI聊天机器人到消灭人类：我们是如何走到这一步的？

一些AI高管认为，该行业距离能够几乎不需要人类帮助就能自我改进的AI系统只有三到五年的时间。

“这不是科幻小说”：专家称美国空军必须建立对人工智能的信任

Anthropic研究员雅各布·考克森的辞职凸显了人们对人工智能所带来风险日益增长的担忧。考克森表示，“构建人工智能的人真诚地相信，它可能在这个十年结束前杀死我们所有人。”Epirus首席技术官迈克尔·希亚特则采取了不同的思路。 在航空航天网络会议上关于反无人机防御的小组讨论中，希亚特指出，“每个人都在谈论成本不对称……以及解决这个成本不对称问题有多么重要。但对于身处一线、试图做出评估的作战上尉来

生物安全领域里程碑：谷歌DeepMind首创AI蛋白质水印技术

IT之家 9 月 30 日消息，谷歌今日推出 SynthID Bio，将数字水印技术引入合成生物学领域。该技术可将不可感知的签名直接嵌入生物编码，不仅能在数字模型上验证，还可在合成的物理蛋白质上完成验证，同时在实验室测试中保持蛋白质的生物学功能。 生成式 AI 正在帮助科学家解决关键生物学挑战，从预测蛋白质结构到设计全新蛋白质，再到开发新型噬菌体。但这类工具也带来了新挑战：新型 AI 设计可能绕过

一本关于生物战争的畅销书作者对人工智能的看法

最近，我们频繁听到有关AI导致人类灭绝这一幽灵般的威胁。也许，我们对AI智能的误信会引爆第三次世界大战。或者，AI智能体会发动大范围网络攻击，接管互联网。一旦获得过多自主权，机器就会失控横冲直撞。它们甚至可能试图欺骗创造者——等等，这已经发生了。假设它们像史密斯探员一样得出结论：“人类……是一种瘟疫，而我们是解药。”又或者，聊天机器人会帮助坏人释放字面意义上的瘟疫——一种生物武器。 这最后一种情况

比尔·盖茨表示，人工智能的未来将分为两个阶段，并引领我们进入“一个富足的时代”。

比尔·盖茨表示，人工智能的前景一片光明，但前提是人类需要等待几十年。在接受美国全国广播公司（NBC）《会见新闻界》（Meet the Press）节目采访时，这位亿万富翁商人表示，人工智能的发展将分为两个阶段。他告诉主持人克里斯汀·韦尔克，人类目前正处于第一阶段，在这一阶段，人工智能虽然有潜力解决生活成本高昂和医疗费用昂贵等问题，但目前还无法做到。 “然而，如果我们没有适当的保障措施，它将改变就业

美国卫生官员不顾担忧迅速部署医疗AI

克里斯蒂娜·朱伊特 美国卫生官员正在迅速推进AI在医学中的使用，部署AI来诊断和治疗患者，尽管一些专家对其安全性和有效性表示担忧。 硅谷投资者，尤其是维诺德·科斯拉，对这些努力产生了强大影响，他们推动AI取代人类医生，并通过Curai Health等公司扩大医疗服务可及性。 美国食品药品监督管理局（FDA）和联邦医疗保险（Medicare）正在调整针对AI医疗工具的法规和试点项目，在创新与AI自主

如何治理人工智能的生存风险

当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要