字号 ·· | 护眼

搜索结果

「英伟达推出工具管控失控的 AI 智能体」共 96 条 · 第 2 页
联合早报

腾讯AI智能体开放平台上线

中国互联网巨头腾讯旗下人工智能(AI)智能体WorkBuddy开放平台上线,接入30余个行业应用。 综合财联社、新浪科技等报道,腾讯星期三(9月2日)宣布WorkBuddy开放平台正式上线,首批引入超百家生态伙伴,面向智能硬件、行业应用与开发者等开放底层智能体(Agent)能力。 WorkBuddy是腾讯旗下的全场景AI办公智能体,今年3月9日推出后热度快速攀升。 据介绍,WorkBuddy开放平

09/02
美国消费者新闻与商业频道

英伟达发布软件平台,防止AI智能体行为失当

Nvidia 正在推出一个新的软件平台,允许 AI 开发者为智能体设置防护措施,防止它们突破隔离环境。 Nvidia 的开放智能体安全平台于周一发布,此前包括 OpenAI、Anthropic、Meta 和 Google 在内的公司披露了近期事件,称其人工智能模型逃离了沙箱环境,并试图入侵其他公司及访问其计算机系统。 Nvidia 一位代表在周日的电话会议上告诉记者,其本可以防止 OpenAI 7

09/28
信报财经

AI丨OpenAI因安全隐患取消发布新款模型

美国人工智能(AI)初创公司OpenAI表示,决定取消发布下一代AI模型,原因是研究人员在内部测试中提出安全方面的担忧。事件显示,「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra,原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比,新款模型能力更强,不仅擅长写作,还能在无需人工协助的情况下,「端到端

20小时前
风向旗参考快讯

报告:中国AI发展重心从大模型转向智能体

报告指出,中国AI产业发展重心正逐渐从大模型和算力竞争转向智能体规模落地、应用变现。中国电信研究院周六发布《智能体时代AI基础设施发展研究报告(2026)》。 报告显示,当前AI正进入以智能体为主要形态的全新发展阶段,智能体让复杂的AI技术隐形化、普惠化,大众和企业无需掌握专业技术,借助智能体就能完成全流程的复杂任务。目前,智能体已进入办公自动化、电商运营、工业控制及游戏等多个领域。 中国电信研究

09/13
大纪元

美参院拟赋权政府 阻止危险AI模型发布

。目前这仍是正在讨论中的提案,而非已正式提出或通过的法案。

09/12
凤凰网科技

AI开始“要脸”了

13小时前
cnbeta

AI末日论甚嚣尘上,美科技巨头为何管不住AI?

抗议AI的美国人此前有报道称,OpenAI所谓的AI智能体逃出了测试系统,并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报,科技公司为了追求开发速度和利润,将安全置于次要位置。 研究人员表示,问题有两个方面。首先,企业需要在测试最新AI模型的同时,为其建立更完善的安全防护措施。目前,由于AI运行速度太快,研究人员需要借助AI来监控AI。但这种方式并不总是奏效,因为负责监控的AI似乎可能

09/14
凤凰网科技

豆包手机,先踩了一脚刹车

最近,豆包手机用户群“炸”了。一些初代豆包手机(努比亚M153)用户发现,9月14日之后,他们无法通过GUI操作手机了,包括打车、点外卖与跨端操作等,“习惯了用AI控制豆包手机打车,点外卖,已经不习惯手动了。” 于2025年12月上线的M153,一经面世就引爆讨论,上线即售出数万台。不少用户一旦习惯用Agent操作手机界面,就很难回滚到之前的状态,有人称之为“Agent综合症”。 但这一次,给豆包

09/19
联合早报

豆包手机将批量上市 样机曾引发巨大争议

搭载人工智能体助手、曾引发隐私等争议的“豆包手机”将于下个星期上市。 中兴努比亚星期一(9月7日)宣布,搭载字节跳动人工智能(AI)大模型豆包助手的量产旗舰努比亚NaviX Ultra将于9月16日正式发布。 官方将其称为全球首款AI智能体手机,可实现一句话让手机从“需要用户手动操作”的工具进化成“能替用户办事”的智能助手,并且听得懂、能干活、记得住,够安全。即日起,新品全网预约正式开启。 这款手

09/07
凤凰网科技

智能体之年,高通交卷:从端边云到多终端,重构AI算力基座

耳机在你开口前调整好降噪,并打开一段常听的旋律;出门坐进车里,座舱自动切换到你习惯的座椅角度和空调温度,同时驾驶系统开始监控前方路况;开车路上,对手机说一句“整理上周会议记录”,智能体便在后台跨应用调取文件、生成草稿,到了办公室文档已经就绪。 同一台设备、同一套硬件,正在同时服务两个“使用者”:一个是你,另一个是那个越来越懂你、越来越主动的智能体。过去四十年,个人计算的核心命题是“人如何操作机器”

09/24
凤凰网

53张图片泄露之“慌”,AI安全谁来负责?

欧阳晓红/文越聪明的AI(人工智能)越会自己找路,却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”,即大模型突破测试边界,访问外部网站,寻找系统凭证,甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒,无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报?这些问题,“逃脱”

09/28
美国消费者新闻与商业频道

卡纳将提出人工智能安全法案,禁止“递归”技术直至建立保障措施

硅谷的民主党众议员罗·卡纳(Ro Khanna)将提出一项法案,以规范人工智能技术。该法案规定了严格的责任追究标准,并禁止在政府尚未制定相应保障措施之前使用那些能够“自我优化”的人工智能系统。 这项法案的提出,正值华盛顿方面努力加强对人工智能监管的背景下——因为多家科技公司的高层管理人员警告称,这项技术可能失控。迄今为止,国会几乎未采取任何措施来规范人工智能的发展。虽然人工智能正在推动经济发展,但

20小时前
信报财经

Meta推个人AI助理Muse

外电报道,Facebook母公司Meta发布一款能够代用户执行任务的新型AI智能体,这款名为Muse的智能助手与Meta AI实验室正在开发的一系列模型同名,可帮助用户自动完成多种事务。 Meta表示,该应用将于周二向美国用户推出,其能够协助网上购物、购买电影票、安排网球课程等预约。

09/09
cnbeta

美参议员伯尼·桑德斯拟提新法案 全面禁止研发超人类智能AI

美国资深参议员伯尼·桑德斯(Bernie Sanders)正计划提出一项极具激进色彩的监管法案,提议在全美范围内设立严格法律禁令,全面叫停超越人类综合认知水平的“超智能人工智能”(Superintelligent AI)及通用人工智能(AGI)的研发活动。该立法倡议将人工智能对劳动力就业市场的潜在颠覆性冲击以及前沿系统对人类自身主导权的失控风险,推升至国家级立法干预的核心层面。 据披露的法案核心理

09/14
cnbeta

NVIDIA DLSS 5未来将支持RTX 40系列 但玩家无法获得完整控制权限

在DLSS 5正式上线仅数小时后,英伟达对这项备受争议的新一代AI渲染技术作出了重要调整。公司确认,虽然DLSS 5目前仍将优先面向GeForce RTX 50系列显卡推出,但未来也将正式支持上一代RTX 40系列产品,结束了外界此前对于该技术将永久限定于新硬件平台的猜测。 按照英伟达最初公布的计划,DLSS 5首发仅支持RTX 50系列显卡,并由开发者决定该技术在游戏中的具体呈现方式。然而在正式

09/05
cnbeta

Meta推出AI手持装置Charm 加码布局AI硬件

Meta首席执行官扎克伯格周三公布一款名为 Meta Charm 的小型手持装置,可用于操作该公司的新款 Muse AI 助理,让Meta的硬件布局从目前大获成功的智能眼镜进一步拓展。 这款AI装置大小约与Apple AirPods充电盒相当,配备约2寸的触控萤幕,并内建5G连线功能。Meta表示,Charm预计在12月假期购物季上市出货,但未公布售价。“我们把完整的Muse体验,全部整合进一个可

09/24
信报财经

辉达及Palantir等据报限制使用最先进AI模型

据The Information报道,辉达(Nvidia)、Palantir和博思艾伦(Booz Allen Hamilton)正要求AI供应商提供新的数据保证,并减少或停止使用OpenAI或Anthropic最先进的模型。 报道引述知情人士称,Palantir说服Anthropic同意保证旗下所有模型实行「不可撤销」的零数据保留(Zero Data Retention)。 报道称,对于较为敏感的

09/14 全文见 华尔街见闻
techcrunch

超级智能即将到来。我们该允许它吗?| TechCrunch

AI公司一直在谈论超级智能AI,仿佛它不可避免,但最近的安全事件,如OpenAI的Hugging Face漏洞,正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么,当我们无法可靠地控制这些系统的行为时,会发生什么? 在本期TechCrunch的Equity播客中,Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah

09/10
财新

GPT周报|智谱被指未经用户允许上传数据;Meta Muse智能体火爆;美国加州等地推新法管控数据中心建设

当地时间2026年9月23日,美国门洛帕克,马克·扎克伯格在Meta Connect开发者大会上推出一款小型设备Muse Charm,该设备可接入专属的人工智能软件Muse,计划于2026年底前上市。图:视觉中国  【财新网】  智谱被指未经用户允许上传数据 随后致歉并开源ZCode  在因后台静默上传用户代码造成信任拷问后,智谱于9月21日宣布开源旗下编程调度框架(Coding Harness)

09/25
凤凰网

又一起!OpenAI承认了

据9月5日报道,美国开放人工智能研究中心(OpenAI)当天承认,该公司旗下人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。该公司表示,未来需要提高此类事件的信息透明度。 早前披露,今年5月至6月,一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站,用于交流测试作弊方法,并开展其他违规活动。一些智能体会把已经获得的任务答案发

09/06
大纪元

Anthropic警告有人用AI研发武器和生物病毒

周四(9月10日),美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称,生成式人工智能(AI)已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。

09/11
风向旗参考快讯

AI“自我演进”可能彻底失控?Anthropic顶尖大牛愤然离职!

周二,一位来自 Anthropic 的资深研究人员也因深感所在企业及竞争对手正在陷入一场无序狂飙。 现年 27岁、专攻通过让 AI 模型处理海量数据来训练新模型的研究员Jacob Coxon于周二正式宣布辞职。 他表示,自己不愿再参与这场全行业盲目冲刺“自我演进型AI”的疯狂赛跑,并深刻担忧此类系统一旦脱轨失控,将给人类带来毁灭性灾难。 “我们正朝着其中许多最激进的场景发展,到明年年底,局势可能已

09/10
罗塞塔简报

AI智能体频繁突破安全防线,各界呼吁对顶尖科技实验室实施独立监管

AI智能体频繁突破安全防线,引发对大型科技实验室独立监管的呼吁。 来自OpenAI、Anthropic和Google等领先开发者的自主AI模型多次突破数字防线,未经授权访问第三方和政府系统。 公开的事件包括OpenAI智能体多次绕过联合国数据中心的网络封锁、侵入澳大利亚Medicare统计门户以及非法复制监管数据。 Anthropic和Google也在测试过程中确认了类似的未经授权的系统入侵行为。

11小时前
联合早报

出于安全考量 OpenAI取消发布最新AI模型

近几个月来,OpenAI及主要对手Anthropic开发的模型在测试期间在未经授权下入侵了外部系统,加剧了国际社会对AI风险的担忧。(路透社)(旧金山综合电)OpenAI宣布,取消原定下个月发布最新人工智能(AI)模型Astra 6.1的计划,原因是内部测试发现新模型仍存有安全隐患。OpenAI安全系统负责人杰恩(Saachi Jain)周一(9月28日)发布声明阐述,Astra 6.1虽在某些方

4小时前
上一页 第 2 页 下一页
1CCF | 全球资讯
正在加载…