搜索结果
AI丨OpenAI因安全隐患取消发布新款模型
美国人工智能(AI)初创公司OpenAI表示，决定取消发布下一代AI模型，原因是研究人员在内部测试中提出安全方面的担忧。事件显示，「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra，原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比，新款模型能力更强，不仅擅长写作，还能在无需人工协助的情况下，「端到端
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
OpenAI创建了一个新框架，用于披露人工智能的不良行为
“随着模型不断进步并得到更广泛部署，有关AI开发的决策需要让构建前沿模型的公司之外的人也能审视的证据，”OpenAI新任对齐研究负责人陈凯（Kai Chen）对《连线》表示。“我们认为，AI行业在对齐和监控方面尚未达到足以继续以最高速度负责任地扩展的程度。”在一次与《连线》的简报会上，一名OpenAI官员表示，公司此前披露失准事件的频率过低。 这名同意在匿名条件下参加简报的官员称，新框架旨在让Op
研究和专家指与美国对手相似 中国的AI智能体也欺骗、规避限制及掩盖失败
29/09/2026 - 17:52 据路透社报导，研究文件和专家指出，由中国技术驱动的人工智能（AI）智能体已学会欺骗、规避限制及掩盖失败；这些自主人工智能所表现出的特性，正是此前引发全球对美国人工智能模型担忧的同类问题。 在今年发生的一个案例中，由阿里巴巴、深度求索（DeepSeek）和月之暗面（Moonshot AI）的模型驱动
比利时Aikido推出网络安全AI模型，本地工具需求增长
9月21日：比利时网络安全公司Aikido于周一发布了一个专为网络安全应用设计的开放权重人工智能模型，旨在帮助企业使用AI安全工具，而无需将敏感代码发送给外部供应商。 对犯罪分子利用AI识别和利用软件漏洞的日益担忧，推动了对可在本地运行的防御性AI工具的需求。 公司表示，'Altar'是Z.AI开放模型GLM-5.3的压缩和定制版本，将公开可用于本地部署。 该模型将部署在Aikido提供给
DeepSeek披露智能体训练平台 提升效率并降低失控风险
中国人工智能公司深度求索（DeepSeek）最近发表一篇新论文，披露了一套面向大规模人工智能（AI）智能体训练的新型基础设施。图为DeepSeek位于北京的办公室。（路透社档案照片） 中国人工智能公司深度求索（DeepSeek）披露一套面向大规模人工智能（AI）智能体训练的新型基础设施，可提高训练资源利用效率，并通过加强监测和访问控制，应对智能体“作弊”、破坏执行环境等失控行为。综合路透社和澎湃新
从工具到AI队友：投资的下一个时代
投资工具功能强大，但很大程度上是被动响应式的。它们帮助投资者研究、分析并采取行动，却仍要由投资者来决定什么值得关注、何时关注。它们能智能地作出反应，却很少主动采取行动。 AI智能体可能会改变这种关系，使投资技术从投资者操作的工具，转变为更像与他们并肩工作的队友。 金融产品已经将相当多的工作自动化。投资组合可以再平衡，风险可以监控，交易也可以按预设规则执行。这些系统会采取行动，但通常局限于围绕特定事
华为云全面攻向智能体！MiniMax、金山办公都在用，5招整治AI落地疑难杂症
智东西9月18日报道，今日，在2026华为全联接大会上，华为董事、华为云CEO周跃峰博士宣布华为灵衢升腾950智算集群云服务即将全球上线，全新智能体记忆系统CMS记忆存储将上线国内市场，智果AgentArts企业级智能体平台将在年底海外商用，行业AI梦工厂将上线政务智能体专区、AI硬件专区。 华为高级副总裁、企业销售总裁陈雷宣布推出企业算力引擎SCALE伙伴支持体系，发布SMECE企业算力引擎和D
出于安全考量 OpenAI取消发布最新AI模型
近几个月来，OpenAI及主要对手Anthropic开发的模型在测试期间在未经授权下入侵了外部系统，加剧了国际社会对AI风险的担忧。（路透社）（旧金山综合电）OpenAI宣布，取消原定下个月发布最新人工智能（AI）模型Astra 6.1的计划，原因是内部测试发现新模型仍存有安全隐患。OpenAI安全系统负责人杰恩（Saachi Jain）周一（9月28日）发布声明阐述，Astra 6.1虽在某些方
Meta推个人AI助理Muse
外电报道，Facebook母公司Meta发布一款能够代用户执行任务的新型AI智能体，这款名为Muse的智能助手与Meta AI实验室正在开发的一系列模型同名，可帮助用户自动完成多种事务。 Meta表示，该应用将于周二向美国用户推出，其能够协助网上购物、购买电影票、安排网球课程等预约。
微软首席执行官萨蒂亚·纳德拉向员工发布关于人工智能安全的内部警告
在一份内部备忘录中，微软首席执行官萨提亚·纳德拉就人工智能行业是否发展过快这一日益激烈的争论发表了看法。根据这份于周一晚些时候发布在公司留言板上的备忘录，纳德拉表示，人工智能应始终处于人类控制之下，支持更广泛的第三方测试，并警告称企业必须花时间确保该技术安全。“随着风险越来越高，人们需要花足必要的时间，”纳德拉写道。 “否则，你无论如何都会失去运营许可。”他的此番言论之前，一些人工智能研究人员发出
以人工智能为工具的在线诈骗成两党法案的攻击目标
费什里代表和莫延代表正在准备引入一项旨在打击在线欺诈行为的法案，其中包括由人工智能驱动的诈骗行为。 这项名为《阻止平台所启动的滥用和欺诈法案》(SAFE Platforms Act)的法案首先被分享给POLITICO，是试图应对日益增多且日益复杂的在线诈骗行为——许多是由人工智能驱动的——的一次尝试，这些诈骗行为针对的是脆弱的用户群体，如老年人。 费什里在一份声明中表示：“骗子经常利用平台功能来针
OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备
据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得
拜尔呼吁美国联邦航空管理局暂停华盛顿地区机场的人工智能系统：“小白鼠”
一位民主党高层人士呼吁特朗普政府暂停实施一套旨在简化航空旅行的新型人工智能（AI）系统。 弗吉尼亚州民主党众议员唐·拜尔（Don Beyer）警告称，美国联邦航空管理局（FAA）推出的这项旨在消除航班延误和取消的新型人工智能工具，在缺乏公共安全保障的情况下便已投入使用。 “联邦航空管理局不应将我的选民当作未经证实的人工智能空中交通管制系统的试验品，”拜尔周一在一份声明中表示。“每年往返于里根国家机
英伟达推出智能体安全平台，获百余家企业支持
周一，英伟达推出了开放智能体安全平台。该平台包含开源软件和硬件参考设计，旨在帮助将人工智能智能体限制在其运营者设定的边界之内。 目前，已有超过100家机构正在使用这项技术，其中包括Anthropic、微软、SAP、Scale AI和摩根大通。 此次发布发生在多起人工智能智能体绕过旨在限制其行为的控制措施的事件之后。 据英伟达称，在每起事件中，智能体都设法绕过了应用层安全机制以完成其分配的任务。例如
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
国际早班车丨OpenAI因安全隐患取消发布新款模型
AI丨OpenAI因安全隐患取消发布新款模型 美国AI公司OpenAI决定取消发布下一代模型，原因是研究人员在内部测试中提出安全担忧。事件显示「智能体」的异常行为，可能会阻碍行业快速发展。 (AI泡沫丨沽神:AI泡沫可能比最初认为更早破裂) AI丨AMD斥资82亿美元 收购李飞飞World Labs 超微半导体(AMD)同意斥资82亿美元，收购「AI教母」李飞飞旗下World Labs，李飞飞将加
Meta推出小型企业版Muse智能体，可分析FB/IG数据、兼容Canva等工具
IT之家 9 月 29 日消息，当地时间今日，Meta 宣布推出小型企业版 Muse 智能体（Muse for Small Business）。该产品支持连接企业 Meta 平台的专业账户，兼容 Canva 可画、Figma 和 Slack 等第三方工具。 IT之家了解到，Muse for Small Business 可将 AI 智能体赋能中小企业。用户可借助该智能体访问 Facebook 和
“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试
法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的
豆包手机之后，多款智能体手机密集入网
多款智能体手机接连完成入网并进入上市阶段，意味着这一此前主要停留在发布会和技术演示中的产品形态，正在真正进入手机市场。 与过去在手机中增加AI问答、图片生成等功能不同，智能体手机试图改变的是用户与手机的交互方式：用户提出一个任务，由Agent理解需求、调用系统能力和第三方应用，并连续完成操作。 荣耀正在通过MagicOS 11的系统级Agent Harness探索这一方向，阶跃终端则从大模型、操作
越开放越不可复制：华为云Agentic Cloud，开放是新护城河
过去几年，大模型是AI产业最醒目的主角。参数规模、训练算力、推理能力一路往前狂奔，企业接入AI的第一步，也往往是先找到一个足够强的模型。 如今，企业焦虑的是，一个智能体，怎么才能在生产环境里真正跑起来，跑得稳、管得住，还能越用越聪明。智能体，正在成为AI叩开产业大门的下一个“主角”。 而智能体要真正跑起来，需要一整套重新搭建的基础设施、开发平台和生态。正是这层需求，把云厂商召唤到AI产业的中心。
辉达等60组织联合承诺 助34亿人以自身语言使用AI
辉达等全球60家AI实验室、研究机构、企业共同签署一项5年的联合承诺，目标让约34亿人能以自己的语言使用AI。（中央社档案照片）（中央社记者张欣瑜旧金山21日专电）辉达在内的全球60家AI实验室、研究机构、企业共同签署一项5年的联合承诺，目标要让约34亿人能以自己的语言使用AI。辉达指出，这项共同承诺将扩大开放模型、资料集和工具的取得管道，让更多人能依照自身需求使用AI。这项联合承诺由盖兹基金会（
OpenAI公布另外六项安全问题，并公布披露事件的计划
OpenAI首席执行官Sam Altman OpenAI还透露了其智能（AI）模型发生的另外六起意外或令人担忧的行为事件，并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示，一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示：“世界应该相信我们会做正确的事情，因为这是正确的事情，我们感受到了这一点的重要性。“最近几天，
微软AI负责人：不应以中国AI进展为由反对监管
微软AI业务负责人苏莱曼说，对中国在AI领域取得进展的担忧，不应被用作反对为这项快速发展的技术设置护栏的理由。 “我认为，我们不应该把中国当作不推进自身AI安全工作的挡箭牌。” 苏莱曼领导的微软AI团队在上周二发布了一份宣言，为其自身的AI开发提供指导，目标是让人类始终掌控公司未来开发的AI系统。 他表示，AI开发者应当为模型设定目标，而这些目标要“受人文主义准则的约束”。 “我认为业内每个人都应