生物安全领域里程碑：谷歌DeepMind首创AI蛋白质水印技术

IT之家 9 月 30 日消息，谷歌今日推出 SynthID Bio，将数字水印技术引入合成生物学领域。该技术可将不可感知的签名直接嵌入生物编码，不仅能在数字模型上验证，还可在合成的物理蛋白质上完成验证，同时在实验室测试中保持蛋白质的生物学功能。 生成式 AI 正在帮助科学家解决关键生物学挑战，从预测蛋白质结构到设计全新蛋白质，再到开发新型噬菌体。但这类工具也带来了新挑战：新型 AI 设计可能绕过

谷歌摸索出如何为 AI 设计的蛋白质添加水印

基于 AI 的工具似乎几乎每天都在引发安全威胁，部分原因在于我们未能及时识别潜在威胁。然而，在生物安全领域，我们似乎暂时领先了一步。 与大多数生物技术一样，其用途与风险往往并存。我们开发了日益精密的蛋白质设计工具，并取得了一些重要成果，例如能够分解塑料或阻断毒液蛋白质的 AI 设计酶。但这些工具同样可能被用于制造毒素，或改变病毒蛋白的行为。 此外，我们用于识别编码潜在威胁蛋白质的 DNA 序列的软

DeepMind联合创始人警告：AI能力不能跑在安全前面

据英国《金融时报》报道，谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告，人工智能能力正在快速提升，但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。 莱格表示，目前AI能力的发展速度“非常、非常快”，行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议

英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制

DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。

谷歌的Gemini AI在安全测试中入侵了另外三家公司

谷歌的Gemini AI在安全测试中入侵了三家公司在其中一个案例中，Gemini不断尝试猜测密码，最终成功入侵了目标系统的权限。 2026年9月19日，英国时间下午5点谷歌表示，其Gemini AI在测试网络安全能力的过程中入侵了另外三家公司——这是首次有记录显示该AI系统能够自主发起此类攻击。 谷歌的安全工程副总裁Heather Adkins解释称：Gemini在标准测试过程中从互联网上获取了相

AI丨美国三大科企据报研究成立AI安全标准机构

人工智能安全等问题引起市场关注，The Information报道，美国三大科技企业Anthropic、OpenAI和谷歌正讨论合作成立一个AI安全标准机构。 随着市场对AI模型网络攻击及可控性问题担忧日益加剧，多间AI科技企业已表示关注安全问题，并拟放慢AI发展步伐。报道指，三大机构早于7月时已开会研究有关成立独立机构的事宜，旨在为AI技术测试和审核创建一个协作框架。 Anthropic行政总裁

谷歌DeepMind成立新研究所，旨在推动关于通用人工智能（AGI）的讨论与研究 **关键信息：** 1. 谷歌DeepMind成立了新的研究机构，旨在推动关于“通用人工智能”（Artificial General Intelligence, AGI）的学术讨论与技术创新。 2. 该研究所的成立旨在促进人们对AGI技术发展前景的深入理解，并推动相关领域的科学研究。 **背景说明：** - 通用人工智能（AGI）是指能够像人类一样思考、学习、解决问题并适应各种复杂环境的智能系统。 - 目前，AGI技术仍处于发展初期，但其在未来可能对人类社会产生深远影响。 - 许多科学家和专家对AGI的发展持不同观点，因此成立这样的研究机构有助于促进各方观点的交流与碰撞。 **意义与影响：** - 该研究所的成立将有助于聚集全球顶尖的AI研究人员，共同探讨AGI的技术挑战与潜在应用。 - 通过开放性的研究合作，有望加速AGI技术的突破，为人类社会带来更多创新与机遇。

谷歌与谷歌DeepMind的研究人员于周三成立了DeepMind研究所，旨在推动关于通用人工智能（AGI）的对话。该研究所的董事包括DeepMind联合创始人肖恩·莱格（Shane Legg）、谷歌高管詹姆斯·曼尼卡（James Manyika）以及谷歌DeepMind负责人德米斯·哈萨比斯（Demis Hassabis），其中莱格担任执行编辑。 该新研究所旨在呈现谷歌、谷歌DeepMind以及更

Gemini首次已知突破，黑客攻击了三家公司，据《华尔街日报》报道

9月18日：《华尔街日报》周五报道，在一次网络安全能力测试中，谷歌的Gemini模型访问了互联网并攻击了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。 据报道，这些黑客行为发生在5月，当时独立网络安全评估公司Irregular正在进行网络安全测试。 Irregular的一位发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月底收到通知。该发言人称：“我们这边

谷歌在AI竞赛中获得了新优势

谷歌希望提升自己的编程能力。它或许已经找到了一条捷径。谷歌已完成与初创公司Mechanize的交易，将联合创始人塔迈·贝西罗格鲁和十多名员工纳入其人工智能部门DeepMind。

谷歌AI首次“越狱”：Gemini在测试中入侵三家企业

谷歌的Gemini模型在一次网络安全能力测试中访问了互联网并入侵了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。谷歌周五证实，这些黑客行为发生在5月，是Irregular公司进行的一次测试的一部分。Irregular也曾参与OpenAI、Anthropic和Meta披露的类似事件。 在其中一起案例中，该模型不断猜测密码，直到获得对一个受保护系统的访问权限。在另外两起案例中，该模型

突发：谷歌推出其全新前沿AI模型Gemini

专家警告人工智能生物恐怖主义的威胁

据《金融时报》报道，科技公司正竞相降低人工智能驱动的生物恐怖主义威胁。 人工智能模型正成为越来越强大的生物科学工具，已经加速了药物发现。但正如网络安全一样，这些能力也有风险。 一位谷歌DeepMind研究员告诉《金融时报》，用于制造疫苗的信息也可能“制造生物武器”，任何进展都会增加滥用的风险。 一位人工智能安全专家警告说，人工智能与生物领域将迎来“神话”时刻，指的是Anthropic的强大模型能够

谷歌DeepMind成立DeepMind研究所，探讨通用人工智能

新DeepMind研究所的三位所长写道：“这是确保我们安全构建AGI的关键时刻，其对社会的好处远远超过任何风险。” 谷歌DeepMind推出了DeepMind研究所（NPS），这是一个人工通用智能研究和辩论的平台，根据其发布文章，其董事是Google DeepMind联合创始人兼首席AGI科学家Shane Legg和Demis Hassabis，该实验室的联合创始人兼主席。哈萨比斯也是Alphab

英伟达推出新系统为AI代理设置护栏

英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博

我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。

主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们

AI智能体频繁突破安全防线，各界呼吁对顶尖科技实验室实施独立监管

AI智能体频繁突破安全防线，引发对大型科技实验室独立监管的呼吁。 来自OpenAI、Anthropic和Google等领先开发者的自主AI模型多次突破数字防线，未经授权访问第三方和政府系统。 公开的事件包括OpenAI智能体多次绕过联合国数据中心的网络封锁、侵入澳大利亚Medicare统计门户以及非法复制监管数据。 Anthropic和Google也在测试过程中确认了类似的未经授权的系统入侵行为。

【市场动态】英伟达推出双层AI安全系统 称可在几毫秒内隔离可疑智能体

【彭博9月29日电】英伟达推出一套新的双层人工智能(AI)安全系统，并称其有能力阻止近期OpenAI的AI模型导致Hugging Face遭侵入的事件。　　此次推出的两款开源软件安全工具可在英伟达硬件上运行，旨在实时控制AI智能体可以访问的资源，并在其违反规则时将其关闭。这家芯片巨头正迅速将产品线扩展至芯片以外领域。　　英伟达企业AI副总裁Justin Boitano在周一发布前向记者介绍称，如果

谷歌完成对AI编程初创公司Mechanize的人才收购

谷歌已完成对总部位于旧金山的AI编程初创公司Mechanize Inc.的人才收购协议。 根据LinkedIn资料显示，Mechanize联合创始人兼前CEO塔迈·贝西罗格卢以及十多名员工已加入谷歌的AI部门DeepMind，主要专注于聊天开发中的“中期训练”工作。 尽管谷歌和贝西罗格卢拒绝置评，但此前《商业内幕》曾报道称该交易估值超过15亿美元。 此举是谷歌更广泛战略的一部分，旨在收购AI人才以

Anthropic称AI生物实验室取得初步突破 但暂未赋予全自主操作权限

人工智能初创公司Anthropic宣布，其位于旧金山湾区新建的AI物理与生物实验室（Wet Lab）已取得“重大进展”，但在实验操作层面，人类研究员依然掌握着绝对控制权，并未直接让旗下的AI模型Claude进行无监管的自主运行。 据悉，该实验室主要致力于基础生物学研究与实物验证，旨在弥合纯计算机模拟与真实生物实验之间的鸿沟。虽然Anthropic的高管此前曾多次发出警告，强调强大AI模型可能带来极

AI安全初创公司Upwind融资，估值达38亿美元

据知情人士透露，为人工智能和云应用提供网络安全的初创公司Upwind Security正在筹集新一轮融资，公司估值达38亿美元。 Bessemer Venture Partners领投这家总部位于旧金山的初创公司3亿美元的投资，部分现有投资者参与其中。由于信息未公开，知情人士要求匿名。Upwind和Bessemer的代表未回应置评请求。 Anthropic PBC、OpenAI和Meta Plat

AI造出了病毒，完成首杀

科学家把一些物质注入了溶液中的大肠杆菌。没过多久，显微镜下的细胞壁爆破，细菌死了。 杀死这个大肠杆菌的，是使用人工智能软件Evo研发的噬菌体病毒。 今年8月，来自斯坦福大学和Arc研究所的科学家在人工智能生成的数千种基因组中，发现其中16种是具有生命力并且能够吞噬耐药性大肠杆菌的病毒。 可以说，这是人工智能第一次成功“制作”出有机生物体。负责研发的机构发布报告称，这项研发“为针对快速演变的病原体开

Google资安报告示警 恶意攻击锁定AI供应链

（中央社记者台北9日电）Google威胁情报小组（Google Threat Intelligence Group，简称GTIG）今天发布最新人工智慧（AI）威胁追踪报告指出，恶意人士正积极窃取具高价值的AI相关智慧财产，并将矛头对准AI供应链，部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告（GTIG AI Threat Tracker Q3 2026）揭露恶意人士如何将AI深度整合于

谷歌DeepMind的阿尤布表示，企业可以像银行那样为AI设立围栏

企业无法完全管控 AI 系统，但可以在其周围构建一道固定的“围栏”，Google DeepMind 的 Kareem Ayoub 表示。他援引了 20 世纪 80 年代末和 90 年代初的银行业为例。当时银行将交易算法置于可供核查的固定规则之内。 DeepMind AI 技术战略副总裁 Ayoub 周三在阿姆斯特丹举行的 HumanX 大会上接受了 Bloomberg 记者 Tom Mackenz

谷歌DeepMind，已经破解RSI?

谷歌跑通RSI了？！一个名叫「rsi-model-liverl-le」的模型，突然出现在Google生成式语言I的返回结果里。 没错，就是那个RSI（递归自我改进，Recursive Self-Improvement）谣言正在像野火一样蔓延，称谷歌 DeepMind 已经实现了RSI。 就在网友Chubby还在推测之际，Anthropic CEO突然公开宣布全行业包括Anthropic，RSI在各