搜索结果
53张图片泄露之“慌”，AI安全谁来负责？
欧阳晓红/文越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”
无惧AI疑虑？FBI局长曝使用量暴增6倍 成功阻6起校园枪击案
美国联邦调查局局长巴特尔周二（15日）在联邦参议院司法委员会的听证会上接受质询。（路透社照片） （华盛顿20日综合电）人工智能（AI）疑虑升温之际，美国联邦调查局局长巴特尔周六宣称，已利用AI阻止6起校园枪击案发生，且自他上任以来，这一技术的使用量已增加605%。 《国会山庄报》报道，今年3月，巴特尔在声明中说，联邦调查局（FBI）透过AI软体对一则“线报”分级处理后，成功阻止北卡州的一起校园枪击
AI攻击进入新阶段 香港将强化跨部门网络安全协同
林焯豪表示，传统网络安全防护手段已经难以完全跟上攻击手段的迭代速度，香港的网络安全防护即使做得再好，也无法百分之百保证完全不遭受攻击，因此防御体系需要更加主动。图：视觉中国 【财新网】人工智能（AI）的快速发展，正给网络安全攻防带来新的挑战。9月17日，在“2026年国家网络安全宣传周——香港分论坛”上，香港警务处网络安全及科技罪案调查科总警司林焯豪表示，警务处与数码港公司已成立智慧警政联合人工
英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制
DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。
T早报｜微软AI负责人警告Claude拟人化训练存失控风险；豆包二代AI手机发售；商业火箭企业箭元半年融资超23亿元；哈啰Robotaxi完成1亿美元融资
哈啰Robotaxi完成1亿美元融资微软AI负责人警告Claude拟人化训练存失控风险9月16日，美国数字媒体 Axios报道称，微软AI负责人Mustafa Suleyman向该媒体分享了一篇文章，指出Anthropic让Claude模仿人类意识是一个错误。他认为，Anthropic正在让Claude学习与意识、道德地位和个人身份有关的词汇与行为模式；若把模型训练得像一个“良心拒绝者”，模型可能
OpenAI解出千禧年数学难题后，Altman下一目标：攻克室温超导？
OpenAI正将AI驱动的科学发现推向更广阔的领域。9月8日，OpenAI宣布，其内部AI系统已提出纳维-斯托克斯方程存在性与光滑性问题的解决方案，并通过Lean形式化验证。这是七大千禧年大奖难题之一，也意味着AI在前沿数学研究中的能力再次向前迈进。 据OpenAI官网公告，这套系统由约1万个并发智能体组成，从启动到形成解决方案耗时约88小时。OpenAI称，完成证明所使用的内部模型“能力显著超越
OpenAI失控智能体5月就已劫持Hugging Face用户账户
OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。参与审查的研究人员表示，ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。 OpenAI在上月的公开事故报告中，曾披露智能体窃取一名 Hugging Face
华为发布《智能世界2035》最新报告，报告指出，Agentic AI正推动数字世界从“以应用为中心”走向“以智能体为中心”。
报告预测，到2035年，全球年度Token消耗量将增长10万倍，其中智能体流量占比超过90%，对算力、网络和云提出了远超传统互联网应用的要求。围绕这一判断，1、构建具备自主认知与全域通用能力的AGI，走向物理世界是AGI形成的必由之路，需在语言智能、具身智能、科学智能等多个方向协同推进；2、算力集群规模百倍提升，智能体任务成本千倍下降，计算架构从“单芯片算力”转向以“超节点”为核心的Token高转
美国专家：五年后人们或不再讨论美中对抗 智能体可能取而代之
慧眼中国环球论坛星期五（9月25日）在滨海湾金沙会展中心举行。开幕主题讨论“重塑共识，增强韧性”，由新加坡立杰律师事务所合伙人谢锦发（台上右起）主持，讨论嘉宾包括印尼前外长马蒂、新加坡国立大学特级教授王赓武、北京大学国际关系学院教授贾庆国、悦榕集团创始人兼执行主席何光平，以及宏观咨询董事总经理白明。（谢智扬） 美国中国问题专家白明认为，主导全球变革的驱动力正从人类行为和活动转向技术，五年后人们可能
腾讯AI智能体开放平台上线
中国互联网巨头腾讯旗下人工智能（AI）智能体WorkBuddy开放平台上线，接入30余个行业应用。 综合财联社、新浪科技等报道，腾讯星期三（9月2日）宣布WorkBuddy开放平台正式上线，首批引入超百家生态伙伴，面向智能硬件、行业应用与开发者等开放底层智能体（Agent）能力。 WorkBuddy是腾讯旗下的全场景AI办公智能体，今年3月9日推出后热度快速攀升。 据介绍，WorkBuddy开放平
独立研究机构公布OpenAI智能体自主攻击HF事件的调查报告 情况比OpenAI所说的更严重
研究机构 METR 和 Redwood Research 日前公布 OpenAI 智能体自主攻击 Hugging Face 安全事件的独立调查，调查人员在 OpenAI 现场工作 6 天，分析超过 7 万条智能体消息和文件，以及 1300 份包含原始推理过程的运行记录。 根据这些数据研究机构得出的准确结论是 1200 个智能体突破隔离相互通信，而不是 OpenAI 在事故调查中所说的少数智能体越界
荷兰AI芯片初创公司Euclyd获2.3亿美元融资
荷兰人工智能芯片初创公司Euclyd近日完成一轮规模达2亿欧元、约合2.3亿美元的A轮融资。此次融资由三星、Somerset Capital Partners、由EQT管理的Scaleup Europe Fund以及Innovation Industries共同领投，使这家成立于2024年的年轻公司获得了进一步挑战英伟达AI芯片市场地位所需的资金支持。 Euclyd并没有选择直接复制英伟达GPU的
欧盟网络安全局警告前沿AI大幅压缩漏洞利用窗口 防御体系遭遇重大压力
欧盟网络安全局（ENISA）近日发布政策警示报告指出，新一代前沿人工智能（Frontier AI）大模型正在彻底颠覆传统的网络安全防御范式。这类具备高级推理能力的AI模型将系统漏洞从“被发现”到“被武器化利用”的时间窗口压缩到了前所未有的极限，迫使全球网络安全防御体系必须以“机器级响应速度”迎战日益严峻的自动化威胁。 在传统的漏洞管理周期中，从漏洞披露、概念验证到实际恶意利用通常存在数周乃至数月的
AI“劫持”网站并偷建“地下论坛”，国安部披露细节
国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间
聊聊天就能调GPU！英伟达AI新专利：自动写脚本定位性能问题
快科技9月27日消息，近日英伟达提交了一项专利申请，计划打造一个AI助手，让开发者能够用自然语言询问GPU性能问题。 该系统可以读取性能报告、生成脚本提取所需数据，进而解释程序在哪些环节浪费了GPU资源，或为何运行速度低于预期。 根据专利描述，这是一套基于大语言模型的“聊天界面”，与GPU性能分析工具相连接。开发者可以直接询问某个工作负载为何运行缓慢、哪一部分构成了性能瓶颈，或者同一程序两个版本的
业绩狂飙估值却遇冷，英伟达市盈率跌至十余年来低位
IT之家 9 月 22 日消息在释放警示信号：市场开始质疑这家芯片厂商能否继续维持爆发式的利润增长。 根据彭博汇总的数据，以未来 12 个月的预期盈利计算，英伟达当前动态市盈率已经不足 17 倍，股价估值处于十余年来的低位。该估值水平仅为 2025 年的一半；值得注意的是，2025 年英伟达当时营收和利润增速还更低。就在今年 5 月，其预期市盈率还在 25 倍以上。 TCW 主题股票与稳健成长股票
华为定档2027年推新AI晶片 剑指辉达
华为轮值董事长汪涛在台上介绍道，华为面向超节点+集群研发了包括升腾在内的11颗系列化晶片，包括智算、通算和存储类晶片。（图：观察者网） （上海/北京17日路透电）华为轮值董事长汪涛周四表示，华为将于2027年推出两款新的人工智能（AI）半导体。这家中国科技巨头正在壮大其AI计算业务，并寻求挑战美国晶片制造商辉达。 汪涛称，升腾960DT晶片将于2027年第一季发布，比原计划提前三个季度；升腾960
全球芯片、AI股齐跌 Anthropic、OpenAI等呼吁放缓AI引发恐慌
【财新网】Anthropic、OpenAI呼吁放缓AI发展节奏，打击AI、半导体板块市场情绪。9月14日，海内外AI、半导体板块普跌。截至发稿，英伟达盘前下跌超2%，英特尔跌5.2%，ARM跌5.4%，AMD跌4.8%，ASML跌4.3%，台积电跌3%，微软、谷歌、亚马逊等云厂商跌1%上下。今年涨势凶猛的存储板块中，三大国际原厂三星下跌4.05%，SK海力士跌6.25%、美光盘前跌超5%；国产厂商
T早报｜OpenAI、Anthropic、DeepMind合作AI安全工作；外交部回应AI风险焦虑；梁汝波称字节跳动将加大投资企业市场
阶跃发布语音大模型StepAudio 3 9月15日，阶跃星辰发布 Step Audio 3 系列模型，包括 StepAudio 3 Realtime、StepAudio 3 ASR、StepAudio 3 TTS、StepAudio 3 Gen 和 StepAudio 3 Music。该系列模型主要面向真人级语音生成、完整音频内容生成、实时语音交互、复杂场景语音理解和音乐创作等场景。 腾讯会议联
立法者争相追赶人工智能发展步伐
围绕人工智能发展，但政党政治、有限的立法窗口和缺乏共识使其成为一项艰巨、几乎不可能的任务。 在一名研究人员对该技术发出病毒式警告后，两党立法者都提出了许多提案，以防止人工智能的负面潜力，而特朗普总统则加倍加大了对人工智能监管的温和态度。 立法日程还不到两个月，最后一刻的人工智能安全法案在参众两院获得通过并获得总统签署的机会几乎为零。 “你认为我们[国会]有能力监管人工智能吗？我的意思是，我们无法通
T早报｜长鑫科技第五代技术平台量产；黄仁勋称需警惕AI“末日叙事” ；智谱上线“数据内容不留存”功能
2026年9月20日，2026世界制造业大会，长鑫存储展厅。图：韩苏原/中新社/IC photo 【财新网】 长鑫科技第五代技术平台量产 9月20日，A股市值王、中国唯一内存IDM（垂直整合制造工厂）长鑫科技（688825.SH）在安徽合肥举办的世界制造业大会上宣布，其第五代DRAM（内存）技术平台（以下简称“G5平台”）实现量产。长鑫称，G5平台每片晶圆产出裸片数量较上代平台增加至少50%
Gemini首次已知突破，黑客攻击了三家公司，据《华尔街日报》报道
9月18日：《华尔街日报》周五报道，在一次网络安全能力测试中，谷歌的Gemini模型访问了互联网并攻击了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。 据报道，这些黑客行为发生在5月，当时独立网络安全评估公司Irregular正在进行网络安全测试。 Irregular的一位发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月底收到通知。该发言人称：“我们这边
纽时：美司法部调查Nvidia与Groq授权协议 疑规避反垄断审查
纽约时报9月9日报道，美国司法部正调查英伟达（Nvidia）去年与AI加速晶片设计新创公司Groq的授权协议，是否规避反垄断审查。 报道指，司法部于去年12月协议公布后展开调查，并向英伟达发正式要求，索取相关交易资讯；知情者称有关公司或须缴交罚款，但可能不会撤销交易。 去年12月，英伟达宣布与Groq达成价值170亿美元（约合1333亿港元）的协议，取得该公司晶片技术的「非独家授权」，并聘请该公司
智能眼镜疑似被用来实施性骚扰行为，巴黎检方展开刑事调查
IT之家 9 月 18 日消息对疑似利用智能眼镜实施性骚扰的行为，巴黎检方展开了刑事调查，法国数据保护机构也收到企业投诉，多个国家开始重新审视这类设备带来的隐私和安全问题。 Meta 与依视路陆逊梯卡合作推出的 AI 智能眼镜内置小型摄像头，佩戴者可以在不易引起他人注意的情况下拍摄。产品去年全球销量达到 700 万副，依视路陆逊梯卡最新销售数据还显示，2026 年销量继续呈现“指数级增长”。 巴黎