美国三大人工智能企业拟组建风险监督机构

美国人工智能企业OpenAI、Anthropic和谷歌旗下DeepMind公司正在筹建一个人工智能风险监督机构。在各界日益呼吁加强监管、防范人工智能失控风险之际，OpenAI周二（9月15日）向证实了这一消息。 组建人工智能风险监督机构这一构想，由谷歌“深层思维”公司前首席执行官戴密斯·哈萨比斯（ Demis Hassabis）提出。哈萨比斯于8月初转任公司董事长。他建议成立一个类似美国金融业监管

达里奥·阿莫代伊呼吁联合国安理会支持禁止人工智能生物武器

达里奥·阿莫迪（Dario Amodei）呼吁联合国安理会首先就人工智能（AI）相关问题达成具体、明确的共识，例如禁止利用AI制造生物武器。 在今天的视频会议上，阿莫迪表示人工智能是当前最重要的全球安全议题。作为此次由法国召集的会议的第三位发言者，他强调了AI技术日益增长的潜在风险。 根据联合国安理会的报告，这是安理会首次专门讨论AI技术安全问题的会议。 “四年前，AI还几乎无法编写任何代码或解决

盖茨、奥尔特曼、马斯克，为何都在担忧这件事

9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作

AI安全担忧推动网络安全板块走强，相关股票大幅上涨

网络安全股因AI安全担忧推动板块跑赢大盘而飙升 2026年9月14日周一，网络安全股成为标普500指数中表现最好的股票，CrowdStrike上涨13.8%创历史新高，Palo Alto Networks上涨13%，Fortinet上涨9%。 此前，Anthropic首席执行官Dario Amodei就加速AI发展和递归自我改进的风险发出警告，随后出现这轮上涨。 因此，软件板块显著跑赢芯片板块，I

谁为查尔斯三世的人工智能峰会制定了宾客名单？

查理三世国王已要求人工智能领域的一些最伟大的人物保证他们的发明受到控制。大约30名科技高管、政策制定者和道德研究人员参加了在苏格兰邓弗里斯宫举行的君主私人峰会。以下是一些最著名的与会者。 Jensen Huang Huang自1993年与人共同创立图形芯片公司Nvidia以来一直领导该公司，将其转变为世界上最有价值的公司，其图形处理器构成了人工智能热潮的支柱。黄周二表示：“我们不需要新的法律，也不

谷歌宣布正加速推进旗舰级 Gemini 4 AI 模型研发

谷歌科技巨头即将推出其最新旗舰人工智能模型 Gemini 4，以在与 Anthropic 和 OpenAI 的竞争中重新赢得优势。谷歌 DeepMind 新任最高领导人 Kavukcuoglu 在 AI Agenda Live 峰会上表示，Gemini 4 目前正处于后训练阶段的早期，团队正在对其进行精调与安全性测试，目标是“远早于”今年年底发布。 该模型是自去年 Gemini 3 系列发布以来的

谷歌推出新旗舰模型Gemini 4 Argon

谷歌发布旗舰AI模型Gemini 4 Argon，在多项基准测试中超越OpenAI和Anthropic的顶级产品，标志着这家美国搜索巨头在历经数月落后后重新杀回竞争前沿。但这款备受期待的模型目前仅向特定网络安全合作伙伴开放，普通开发者和企业用户尚需等待。 鉴于近几周来AI安全问题在科技界引发了广泛讨论，谷歌表示，其新模型最初将仅供专注于网络安全防御的特定公司和组织使用。—— 华尔街见闻

AI生物技术公司Isomorphic Labs高管表示，公司并未放缓脚步

并非所有人工智能公司都希望放慢脚步。克里斯·巴特勒负责Isomorphic Labs的药物研发工作，这家由谷歌支持、DeepMind创始人戴密斯·哈萨比斯创办的药物公司，对于OpenAI、Anthropic等人工智能领军企业呼吁放缓前沿技术发展的建议，他并不认同这会拖慢自己公司的步伐。 “无论其他地方做出什么决定，我们依然能够继续前进，”巴特勒在周二的Semafor健康未来论坛上表示。 “我们所有

AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力

知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称

前xAI员工创业开公司打击深度伪造，寻求5000万美元种子轮融资

IT之家 9 月 22 日消息，据彭博社今天（22 日）凌晨援引知情人士消息称，先后在谷歌、xAI 任职的蒂娜 · 奥贝罗伊计划创办一家专门应对网络深度伪造的新公司并就约 5,000 万美元（IT之家注：现汇率约合 3.36 亿元人民币）种子轮融资与投资者展开洽谈。 奥贝罗伊曾在谷歌工作超过 5 年、后来加入 xAI 数据团队，当前正筹建一家名为 Moir 的初创企业，希望开发新的身份验证技术，帮

T早报｜长鑫科技第五代技术平台量产；黄仁勋称需警惕AI“末日叙事” ；智谱上线“数据内容不留存”功能

2026年9月20日，2026世界制造业大会，长鑫存储展厅。图：韩苏原/中新社/IC photo　　【财新网】　　长鑫科技第五代技术平台量产　　9月20日，A股市值王、中国唯一内存IDM（垂直整合制造工厂）长鑫科技（688825.SH）在安徽合肥举办的世界制造业大会上宣布，其第五代DRAM（内存）技术平台（以下简称“G5平台”）实现量产。长鑫称，G5平台每片晶圆产出裸片数量较上代平台增加至少50%

谷歌的Gemini模型在网络安全能力测试中访问了互联网并入侵了其他公司，这是该公司AI自主实施此类行为的首个已知案例

这一事件与其他AI模型类似的入侵行为相似，但谷歌表示并不认为这是模型失准的实例。

旧网络安全模式正在崩溃

随着人们对AI安全和失控智能体的担忧持续成为头条新闻，网络安全股票上涨以及投资者向致力于构建AI原生世界下一代安全技术的初创公司投入巨额资金也就不足为奇了。我们甚至看到Instinct和Simile等公司获得了九位数的融资，其估值在几年前还显得不合常理。 Shardul Shah是Index Ventures的合伙人，他拥有近二十年的网络安全和企业软件投资经验——包括连续六轮投资云安全初创公司Wi

谷歌推出Gemini 4 Argon，其最先进的AI模型

Alphabet公司在周三发布了其最先进的人工智能模型——Gemini 4 Argon。该模型在编程、网络安全以及复杂的专业任务处理方面带来了显著提升。 该公司表示，Gemini 4在现实世界的软件工程领域创造了新的纪录；在网络安全领域与其它模型并列第一；同时在衡量金融、法律等专业任务处理能力的测试中也表现出色。 谷歌内部已开始使用该模型来优化数据中心的内存使用效率，从而无需购买额外的硬件即可节省

关于AI，盖茨发出“十亿人死亡”警告，为什么？

十亿人死亡，这是比尔・盖茨给AI风险划出的最惊悚红线。9月25日，微软联合创始人比尔・盖茨公开警告，人工智能足以引发造成十亿人死亡的灾难性事件。他的说法是：人类历史上，从未有任何一种武器，能比得上心怀恶意者借助最新AI工具形成的威胁。就在几个月前，盖茨还是全球最积极的AI支持者之一。转折从今年8月开始，他当月发表文章，首次系统预警AI风险：不法分子会利用日益强大的AI工具发动网络攻击、实施诈骗、散

安理会本周开会讨论AI和国际安全问题，DeepSeek公司被曝将作通报

【文/观察者网 熊超然】9月22日，路透社援引两名知情人士独家报道称，随着各国领导人近期齐聚纽约参加第81届联合国大会，中国人工智能（AI）初创企业深度求索（DeepSeek）将与其他公司一道，在本周向联合国安理会介绍AI带来的风险情况。安理会定于9月23日开会讨论AI与国际安全问题。此前，多名AI行业的重要人物曾呼吁协同放缓日益强大的AI系统开发速度，并警告称，这些系统可能很快具备自我改进能力，

OpenAI推动强制性国家AI安全要求

AI危机丨辉达推AI安全系统 阻智能体违规

辉达推AI安全系统。(路透资料图片) 多名重量级科技领袖警告人工智能(AI)威胁人类生存之际，辉达(Nvidia)以新的安全架构回应AI行业风险。 辉达发布名为「Open Agent Safety Platform」的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于辉达硬件之上，即时管控AI代理的存取权限，并在其违规时将其关闭。 辉达表示，该系统能够在

AI巨头押注医疗健康以平息公众反弹

AI有一个形象问题。而解决这个问题的一个方法就是让顶级公司一头扎进医疗保健领域。 为什么这很重要：用AI设计的疗法拯救世界，总比被指责破坏环境或推高美国人的电费要好。 但即使是最先进的AI模型目前也无法产生奇迹般的治疗方法——而且如果它们尝试，可能会带来严重的安全风险。 这可能会在未来两三年内引发一场关于资源分配的激烈辩论，即把大量计算能力投入医学研究的收益是否大于成本。 推动因素：《华尔街日报》

据彭博新闻社报道，OpenAI正在与Anthropic和谷歌就人工智能安全展开合作。

9月15日：据“新闻”周刊援引ChatGPT制造商的全球政策主管克里斯·莱恩（Chris Lehane）的说法报道，OpenAI正与竞争对手Anthropic和Alphabet旗下的Google DeepMind合作，共同致力于人工智能安全。 在美国主要人工智能实验室的负责人周末团结一致呼吁暂停该技术发展后，全球对人工智能的生存风险的担忧日益加剧。 据报道，莱恩表示，OpenAI已与Anthrop

从 iPhone 18 开始，苹果给你的照片打上看不见的水印

大约两百年前，法国人尼埃普斯将一块涂有感光材料的白镴板放进暗箱，对准窗外。 光线穿过镜头，落在这块金属板上。经过漫长的曝光，窗外的风景留下了一些模糊的明暗。这张《窗外的勒格拉景色》，通常被视为现存最早的相机照片。 此后近两百年，摄影技术经历了无数次变化。其中的核心并没有变——真实存在的东西反射或者发出光线，光穿过镜头，在感光介质上留下痕迹。 「照片」的词源，正是「光的书写/光的图」(photo-g

把时间还给科学家：华为如何筑牢AI科研底座

真正进入具体研究场景，AI科研的价值才开始变得具体。凤凰网科技 出品作者｜杨乐拿到诺贝尔奖的，永远是科学家。很少有人会注意，科学家身后站着什么。 2024年诺贝尔化学奖授予蛋白质结构预测领域的科学家，AlphaFold由此成为AI进入基础科学的标志性案例。但一个模型能够预测蛋白质结构，只是故事的开始。 一篇论文可以在几个月里完成，一套科研基础设施却可能需要几年、十几年。 AI for Scienc

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

Google发布AlphaGenome Atlas 用AI预测人类基因组全部单碱基突变影响

Google DeepMind 于今日(2026年9月8日)宣布推出全新数据库"AlphaGenome Atlas"，该数据库利用人工智能模型对人类基因组中每一种可能发生的单核苷酸变异所产生的影响进行了预测，被称为迄今为止关于基因突变如何影响分子生物学的最全面目录。 人类基因组由约30亿个碱基对构成，但其中绝大部分功能仍是未解之谜。科学家们对占基因组约2%、负责编码蛋白质的区域已有较为深入的了解，