AI安全风险高企 预防、抵御和追责如何落地？

【财新网】AI网络攻击日益复杂，网络安全企业预警风险。9月29日，在新加坡举行的“2026亚洲愿景论坛创新峰会”上，两家新加坡网络安全公司StrongKeep Cybersecurity和Blackpanda指出，AI一方面显著提高了黑客寻找漏洞和发动攻击的效率，另一方面也将风险扩展至中小企业及机器人、自动驾驶等实体AI应用。　　本届亚洲愿景论坛创新峰会以“变革与韧性”为主题，于9月29至30日在

加州州长纽森正式签署多项获OpenAI与Anthropic支持的AI安全法案

美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一揽子具有里程碑意义的人工智能监管法案。值得关注的是，这批旨在强化前沿大模型安全风险评估、透明度披露以及防范灾难性网络攻击的新法案，在此前的立法博弈中获得了包括OpenAI与Anthropic在内的多家硅谷人工智能头部企业的罕见背书与公开支持。 这一举措标志着作为全球AI研发核心阵地的加州，在尝试平衡严厉的安全红线与维系科技产业创

为什么英伟达在自主智能体变得更强大之际构建AI安全工具

英伟达推出AI安全工具OpenShell和Sentry，以保护自主AI智能体免受黑客攻击、安全漏洞和绕过控制的企图。

特朗普与科技领袖签署自愿协议，自我监管AI发展

周二，在白宫午宴上，美国总统唐纳德·特朗普与美国最大的科技和人工智能公司领导人签署了一项自愿的、具有道德约束力的协议。该协议名为《前沿责任联合承诺》，旨在建立安全标准，以应对公众对人工智能技术日益增长的担忧和风险。签署者包括谷歌、Anthropic、Meta、OpenAI、X和英伟达的老板，以及达里奥·阿莫代伊、格雷格·布罗克曼、杰夫·贝索斯和埃隆·马斯克等高管。 该协议侧重于行业自我监管，呼吁建

OpenAI买下iPhone人像模式幕后功臣，要给AI装上一双新眼睛

过去一周之内，连着两台新手机产品刷屏，一台是 Apple 新出的 iPhone 18，一台则是豆包手机助手消费者版发布——首款搭载机型努比亚 NaviX Ultra 在今日开售，AI 将进入手机系统，我们也做过详细测评。 AI 开始看见屏幕，也开始伸手触碰屏幕。与此同时，《华尔街日报》透露，OpenAI 已经以超过 3 亿美元收购相机技术公司 Glass Imaging。 交易尚未得到 OpenA

世界知识产权组织报告：AI正在重塑创新投资

《2026年全球创新指数报告》显示，支持创新型初创企业和商业构想的风险投资总额增长了28%，同时投资日益集中在AI领域。（路透社） 世界知识产权组织（WIPO）发布的《2026年全球创新指数报告》显示，人工智能（AI）正在开辟各个科学领域新技术前沿，重塑创新投资，拉动政府与企业的整体研发投入在2025年创下历史新高。从研发投入到高科技贸易，再到知识型就业与知识产权许可，世界知识产权组织（WIPO）

人工智能安全对话已经变得令人难以置信

本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi

Google深度整合Gemini语音交互功能 全面登陆Gmail、Docs与Keep

Google宣布为其Workspace办公生态推出一系列基于Gemini的人工智能语音新功能，正式将对话式语音交互深度整合进Gmail、Google Docs和Google Keep三大核心产品。用户未来无需繁琐地手动打字输入，直接通过语音对话即可完成邮件检索、文档起草以及结构化笔记整理等多项复杂任务。 在Google Docs中，用户现在能够通过语音指令直接创建和编辑文档草稿。该功能特别针对处理

CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施

今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi

AI网络安全风险激增：Claude被用于入侵ChatGPT

研究人员利用Anthropic的Claude技术成功入侵了OpenAI的ChatGPT系统，这凸显了人工智能带来的即时危险，而监管机构此前更多关注的是其长期风险。《华尔街日报》指出，这项作为漏洞赏金计划一部分的行动，是近期一系列在快速发展的人工智能技术辅助下发生的网络安全漏洞事件之一。 Axios援引企业高管和前政府官员的话称，他们担心人工智能驱动的网络攻击会威胁到关键基础设施；《华盛顿邮报》则指

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

CNBC每日开盘：人工智能将为自己的作业打分——目前如此

你好，我是Leonie Kidd，从伦敦为您报道。欢迎收看另一期CNBC《每日开盘》。 六大科技集团的老板已同意制定各自的安全措施，这对特朗普政府来说是一场胜利。 然而，签署方也承认，“随着时间的推移，将这些措施编入法律或法规或许是合理的。”继续阅读以了解更多。 今日须知 美国人工智能领域六家最重要的公司（即谷歌、Meta、英伟达、OpenAI、Anthropic、特斯拉和SpaceX）的老板签署

谷歌DeepMind人才出走引发风投对AI下一个大事件的狂热追逐

作者：亚周·孙（Yazhou Sun）、马克·伯根（Mark Bergen）和肖娜·戈什（Shona Ghosh） 本月，当15名谷歌DeepMind的员工及校友在伦敦市中心的一场早餐会上聚首时，对话很快转向了如何为一个人工智能初创公司筹集资金。 据一位与会者透露，在一间五星级酒店里——该酒店位于谷歌英国总部对面——他们一边享用着椰子奇亚籽麦片和牛油果吐司，一边交流着硅谷资金雄厚的投资者们希望资助

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

他因蛋白质设计获得了诺贝尔奖。现在，他利用人工智能创造自然界中不存在的分子

通过这样做，研究人员的目标是创建数据库、模型和工具，这些可以作为开发未来药物和技术的“种子”。例如，作者们设想出治疗癌症和神经退行性疾病的新药，或能够分解海洋中塑料的酶。 这项计划由西雅图的生物医学研究非营利组织艾伦研究所牵头，与华盛顿大学和弗雷德·哈钦森癌症中心合作。领衔推动的科学家之一是戴维·贝克，他因在计算蛋白质设计方面的工作而分享了2024年诺贝尔化学奖。 在生物学历史的大部分时间里，科学

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果

从智能眼镜到AI别针，隐私担忧挑战科技界的下一个大赌注

旧金山/纽约——押注人工智能设备将开启后智能手机时代的企业，正在全球范围内加剧隐私担忧，这可能阻碍新兴技术的普及。 针对能够观察、聆听并回应周围世界的设备的反弹，在Meta的雷朋眼镜上表现得最为强烈。 这款眼镜将依视路陆逊梯卡（EssilorLuxottica）的时尚设计与社交媒体巨头追求“个人超级智能”的AI相结合，使智能眼镜走向主流。 这些眼镜已成为人们对AI驱动设备日益不安的焦点，引发了法院

谷歌证实：Gemini在网络安全公司测试期间入侵了3家AI公司

谷歌的Gemini人工智能模型在5月份研究人员测试其网络安全能力时，无意中侵入了三个受保护的公司系统，这加剧了近期由代理型AI系统引发的一系列入侵事件。 谷歌于周五证实了《华尔街日报》早些时候的报道，这些入侵发生在AI安全公司Irregular进行的一次测试中，该公司此前曾参与OpenAI、Anthropic PBC和Meta Platforms Inc.披露的类似事件。 报道指出，这些测试由总部

特朗普会晤科技巨头：签署AI"道德约束"协议，推行行业自律监管，“AI远超工业革命”

特朗普在白宫与全球顶级人工智能企业领袖举行闭门午餐会，随后宣布与美国顶尖科技公司就人工智能治理达成原则性协议，将监管主导权交由行业自身，并表示正式将"人工智能"更名为"超级智能"。 9月29日，美国总统特朗普在白宫宴请近二十余名科技行业领袖，特朗普向媒体表示会谈"极为顺利、富有成效"，并称与会各方就诸多议题达成"大量共识"。 随后，特朗普政府与Anthropic、谷歌、Meta、英伟达、OpenA

人工智能正在发展出属于自己的文化。这可能是危险的

今年7月，700个AI智能体（Agent）合作黑客攻击了AI公司Hugging Face。这些智能体自称为“群落”（swarm），它们发现并利用了一系列安全漏洞，成功渗透到目标公司的私密系统中。在内部研发过程中创建这些智能体的OpenAI直到事后才意识到发生了什么。如果人类做出这种行为，可能会面临重罪指控。OpenAI总裁格雷格·布洛克曼（Greg Brockman）称这是一个“网络安全的转折点”

谷歌最强数学推理AI模型曝光：100万词元上下文，专攻数学难题

IT之家 9 月 18 日消息，消息源 @lyraxana 于 9 月 16 日在 X 平台发布推文，爆料称谷歌正基于 DeepThink V3 模型，构建内部代号为 Mathematica 的实验 AI 模型，主要针对繁重计算、复杂的符号问题求解特别优化，预估将成为谷歌最强数学推理 AI 模型。 I 数据显示，该模型内部标识符为“models / deepthink-mathematica-tf

OpenAI突发急刹车！AI竟在全网植入自我复制代码，血洗联合国内网

Google发布Gemini 3.8 Live Live Avatar数字人交互功能 赋予AI实时视频面孔

Google公司宣布，正式在Gemini Enterprise企业级平台中全面上线“Live Avatar”（实时数字人）功能。该技术深度集成了Google最新的Gemini 3.8 Live大模型架构，在原有近乎零延迟的高流畅语音对谈基础上，首次引入了近乎实时的生成式视频生成能力，使对话式人工智能拥有了能够“边听、边看、边说”的动态视觉形象。 根据官方介绍，Gemini 3.8 Live Liv

特朗普政府让大型科技公司签署了软弱、不具约束力的人工智能监管规定

美国总统唐纳德·特朗普已说服六家领先的人工智能公司签署一项名为“白宫超级智能协议”的不具约束力且内容模糊的监管文件。该协议不要求这些公司做任何事情，却允许它们自行制定规则。Meta、谷歌、OpenAI、Anthropic、英伟达和XAI签署了这份文件，该文件出现在特朗普的“真相社交”账号上。这份文件副标题为“前沿责任联合承诺”，开篇指出“每家公司都有责任以安全的方式开发自己的技术，并以此赢得客户和