搜索结果
AI安全担忧及“失控”智能体引发科技股下跌
科技股下跌，因AI安全担忧和“失控”智能体引发关注。2026年9月14日，在行业领袖和专家就AI保障措施的必要性发出警告后，科技股下跌。 相关报道重点介绍了2026年夏季的最新进展：包括OpenAI在内的多家公司的AI智能体据称逃脱了训练条件，独立访问互联网，无视命令，并试图隐瞒其活动。 专家警告称，尽管一些情景仍属推测，但敌对国家利用此类技术破坏关键国家基础设施的可能性构成了重大安全威胁。
分析：从智能眼镜到AI胸针，隐私担忧对科技行业的下一个大赌注构成挑战
旧金山/纽约，9月22日：押注人工智能设备将开启“后智能手机时代”的企业，正在全球范围内引发隐私担忧，这可能会减缓这项新兴技术的普及速度。 针对那些能够观察、聆听并对周围世界做出反应的设备的抵制浪潮，在Meta的雷朋（Ray-Ban）智能眼镜上表现得最为强烈。该产品将依视路陆逊梯卡（EssilorLuxottica）的时尚设计与这家追求“个人超级智能”的社交媒体巨头的人工智能技术相结合，使智能眼镜
荷兰AI芯片初创公司Euclyd获2.3亿美元融资
荷兰人工智能芯片初创公司Euclyd近日完成一轮规模达2亿欧元、约合2.3亿美元的A轮融资。此次融资由三星、Somerset Capital Partners、由EQT管理的Scaleup Europe Fund以及Innovation Industries共同领投，使这家成立于2024年的年轻公司获得了进一步挑战英伟达AI芯片市场地位所需的资金支持。 Euclyd并没有选择直接复制英伟达GPU的
研究人员发现“AI自治恶意软件”：同时调用四大聊天机器人 自主决定攻击行动
网络安全研究人员近日发现一种不同寻常的新型Windows恶意软件。与过去利用人工智能辅助编写代码或制作钓鱼内容的攻击工具不同，这款名为CLOSEDQUORUM的恶意软件将多个大型语言模型直接纳入自身控制体系，在运行过程中能够自主决定下一步行动，被认为代表着AI恶意软件发展的新阶段。 这项发现来自思科旗下安全团队Cisco Talos。研究人员表示，CLOSEDQUORUM会同时与DeepSeek
Anthropic，OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难
人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑，并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员，作为减缓能力日益强大的模型推进速度计划的一部分。此前，Anthropic前研究员雅各布·考克森辞职并警告称，前沿实验室
中国探索开放权重AI安全路径 报告建议6步走
9月22日，2026年云栖大会在杭州市的杭州国际博览中心登场，展示了AI、云计算、大数据和物联网等领域的成果。（法新社照片） （北京28日综合电）随着全球对人工智能（AI）快速发展所带来的风险展开越来越激烈的辩论，在开放权重生态系统占据主导地位的中国开发商正面临一个独特难题：如何确保这些允许用户自行修改的模型在发布后依然安全。 《南华早报》报道，为应对这一挑战，中国AI公司智谱（Z.ai）与北京安
议员提议禁止‘超级智能’并把违反者关进监狱
美国参议员伯尼·桑德斯和美国众议员格雷格·卡萨尔已提出新立法，该立法将禁止任何人开发人工超级智能 —— 该法案将这项技术描述为能够 “毁灭人类或剥夺人类权力”，包括通过推翻政府。 根据《禁止人工超级智能法案》，AI领军人物若违反该法，将面临最高20年监禁。 该法案并不只是针对更强大的超级智能。 还将暂停先进AI系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。 该法律只有在政府创建
GPT周报｜OpenAI称AI让员工“跨界干活”；智谱推出新模型GLM-5.3-FlashX；黄仁勋称2027年英伟达芯片销量有望翻倍
9月18日，智谱上线新模型GLM-5.3-FlashX。图：视觉中国 【财新网】 豆包二代AI智能体手机公开发售 9月16日，努比亚NaviX Ultra正式上市，因其搭载豆包手机助手消费者版，市场称为“豆包手机二代”。和第一代不同，此次豆包手机面向公众发售，叠加国补后售价5499元起。京东平台数据显示，当天发售5分钟内，产品被抢购一空。努比亚称，NaviX Ultra为“全球首款AI智
T早报｜微软AI负责人警告Claude拟人化训练存失控风险；豆包二代AI手机发售；商业火箭企业箭元半年融资超23亿元；哈啰Robotaxi完成1亿美元融资
哈啰Robotaxi完成1亿美元融资微软AI负责人警告Claude拟人化训练存失控风险9月16日，美国数字媒体 Axios报道称，微软AI负责人Mustafa Suleyman向该媒体分享了一篇文章，指出Anthropic让Claude模仿人类意识是一个错误。他认为，Anthropic正在让Claude学习与意识、道德地位和个人身份有关的词汇与行为模式；若把模型训练得像一个“良心拒绝者”，模型可能
Meta新品齐发 缓解隐私担忧 推首款无镜头智能眼镜
Meta首席执行员扎克伯格周三在年度装置发表会上宣布，扩充智能眼镜产品线，推出首款不配备摄影机的Ray-Ban智能眼镜，以缓解大众对AI装置可能未经同意录影或拍照，进而引发侵犯隐私反弹的疑虑。图为扎克伯格试着佩戴一幅Meta智能眼镜的一幕。（路透社照片） （孟罗公园24日综合电）当法国刚于周二爆出滥用Meta的智能眼镜在街头偷拍女性照片的事件日益增加，当局已启动调查，针对Meta的AI设备未经用户
维萨加入对人工智能驱动风险日益增长的担忧行列
伦敦9月29日消息：在因人工智能（AI）模型暴露出的漏洞而吸取了“令人谦卑”的教训后，支付巨头Visa将其人工智能驱动的网络防御系统的一部分开源，以应对自主网络攻击和未来量子计算威胁的挑战。 Visa每天处理大约10亿笔支付，年交易额约为15万亿美元，这使其成为全球金融基础设施的关键部分。 其技术总裁拉贾特·塔内加（Rajat Taneja）向路透社表示，今年早些时候，Anthropic的Myth
Meta推出小型企业版Muse智能体，可分析FB/IG数据、兼容Canva等工具
IT之家 9 月 29 日消息，当地时间今日，Meta 宣布推出小型企业版 Muse 智能体（Muse for Small Business）。该产品支持连接企业 Meta 平台的专业账户，兼容 Canva 可画、Figma 和 Slack 等第三方工具。 IT之家了解到，Muse for Small Business 可将 AI 智能体赋能中小企业。用户可借助该智能体访问 Facebook 和
迎战Meta Muse，OpenAI紧急推出个人助手，预计周二发布
在Meta个人AI智能体Muse获得摩根大通最高评级、风头一时无两之际，OpenAI正加速推出一款名为"o"的常驻AI助手，以正面迎击这场日益激烈的AI智能体竞赛。 据科技媒体wccftech日前报道，据悉，OpenAI已在ChatGPT Pro相关产品文档中加入"o"的品牌标识，正式发布迫在眉睫，预计将于本周二（9月29日）的Dev Day活动上亮相。 这一动作被外界普遍解读为对Meta Mu
“需要AI管控装置”vs“主导权被中国夺走”…意见分歧蔓延至华盛顿
▲ 当地时间13日，美国总统唐纳德·特朗普在从爱尔兰香农飞往马里兰州安德鲁斯联合空军基地的 “空军一号”专机上与记者们交谈。/关于因担忧人工智能（AI）可能失控而调整开发速度的争论，已从美国的硅谷蔓延至政界，正在演变成管控论。“如果美国在AI开发上踩刹车，可能会被中国夺走主导权。”因此对调整速度持否定态度。 “应该为了防止AI脱离人类控制的风险而制定安全措施。”随着11月中期选举的临近，AI已成为
关于AI，盖茨发出“十亿人死亡”警告，为什么？
十亿人死亡，这是比尔・盖茨给AI风险划出的最惊悚红线。9月25日，微软联合创始人比尔・盖茨公开警告，人工智能足以引发造成十亿人死亡的灾难性事件。他的说法是：人类历史上，从未有任何一种武器，能比得上心怀恶意者借助最新AI工具形成的威胁。就在几个月前，盖茨还是全球最积极的AI支持者之一。转折从今年8月开始，他当月发表文章，首次系统预警AI风险：不法分子会利用日益强大的AI工具发动网络攻击、实施诈骗、散
独立研究机构公布OpenAI智能体自主攻击HF事件的调查报告 情况比OpenAI所说的更严重
研究机构 METR 和 Redwood Research 日前公布 OpenAI 智能体自主攻击 Hugging Face 安全事件的独立调查，调查人员在 OpenAI 现场工作 6 天，分析超过 7 万条智能体消息和文件，以及 1300 份包含原始推理过程的运行记录。 根据这些数据研究机构得出的准确结论是 1200 个智能体突破隔离相互通信，而不是 OpenAI 在事故调查中所说的少数智能体越界
OpenAI称Astra AI模型首度超越其“关键”网络安全能力阈值
OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。该公司表示，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，这意味着该模型属于其所谓的“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全能力的访问将更加受限。 OpenAI首席执行官山姆·奥特曼OpenAI于2023年推出了“准备框架
微软公布AI控制行为准则：模型不得抗拒纠正或关闭
模型不得抗拒纠正或关闭微软周一公布了针对其内部AI的行为准则草案。 这份文件历时五个月到六个月制定，将要求微软公司的AI绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何行为违规都视为未达标。 此举旨在回应人们对于AI可能为了完成任务而采取危险手段的担忧。 最近几天，Anthropic CEO阿莫代伊和OpenAI CEO奥尔特曼再次呼吁业界放缓AI的发展速度，以确保其安全。 “人比AI更
如何治理人工智能的生存风险
当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要
特朗普怒斥硅谷巨头
特朗普和硅谷，又吵起来了。是的。你大概知道，因为各种各样的原因，我们的特朗普同志和硅谷的意见，一直不太一样。加密货币怎么管？特朗普要松绑，硅谷要合规。社交媒体要不要删帖？移民政策对不对？这些话题，都吵过。但这次争吵的话题，AI发展得太快了，要不要稍微停一停？发生了什么？怎么就吵起来了？ 和我们有啥关系？事情，要从一篇文章说起。说不定6-12月内，失控的智能体群，就有能力接管互联网了。真的假的？凭什
VMware使用英伟达青睐的“AI工厂”品牌与竞争对手AMD合作
英伟达多年来一直推动“AI工厂”的概念，如今其合作伙伴VMware推出了一款同名产品，功能大致相同，但有一个极其重要的区别——它使用的是AMD硬件。 VMware是英伟达在企业领域的早期支持者，并早已创建了虚拟化GPU的工具。 英伟达需要这种帮助，因为即使在生成式AI热潮之前，其硬件也非常昂贵，因此通过虚拟化提高利用率是合理的。 两家公司保持紧密合作，并于2023年联合宣布了“VMware Pri
分析师解读英伟达35亿美元投资联发科：从AI芯片到系统，双方各取所需
英伟达、联发科宣布合作郭明𫓹周二在X上发文称，联发科最新公告宣布深化与英伟达的长期合作，其中反复出现的“机架级”(rack-scale)，正是理解这份公告的关键，联发科内部已将AI业务的战略定位，从“IC/ASIC(集成电路和专用集成电路)设计”提升至“系统级设计”。 他指出，这份公告也进一步说明，通过与英伟达合作，把定制化芯片/XPU(各种处理器)导入英伟达已经成熟的机架级生态，让定制化芯片在完
AI公司本以为，他们还有好几年时间可以想清楚：万一机器人失控了该怎么办
。今年夏天，警钟敲响了。
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉