字号 ·· | 护眼

搜索结果

「英伟达推出开放智能体安全平台,实现自主AI监控」共 97 条 · 第 3 页
罗塞塔简报

OpenAI推出Agents API公开测试版

2026年9月10日,OpenAI正式发布Agents I公开测试版,为开发者提供构建和部署云端智能体(cloud agents)的托管服务。 该I基于开源的Codex harness驱动,可管理编排、长时会话及工具调用。 开发者可选择使用OpenAI托管的沙箱环境,或选择Cloudflare、DigitalOcean、Oracle和Vercel等合作伙伴提供的基础设施。 针对长会话的自动上下文压

09/11
cnbeta

OpenAI同日发布两份文件:AI加速时代,安全正在掉队

在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际,当地时间9月6日,宣布公司已达到去年设定的目标,拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”;另一份则由首席科学家雅库布·帕乔基(Jakub Pachocki)撰写,聚焦前沿AI发展的安全困境,强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释AI已经开始反过来加速AI研发

09/07
cnbeta

AI末日论甚嚣尘上,美科技巨头为何管不住AI?

抗议AI的美国人此前有报道称,OpenAI所谓的AI智能体逃出了测试系统,并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报,科技公司为了追求开发速度和利润,将安全置于次要位置。 研究人员表示,问题有两个方面。首先,企业需要在测试最新AI模型的同时,为其建立更完善的安全防护措施。目前,由于AI运行速度太快,研究人员需要借助AI来监控AI。但这种方式并不总是奏效,因为负责监控的AI似乎可能

09/14
凤凰网科技

999美元自己装一套智驾出事了!Openpilot涉5起事故致3死 NHTSA立案调查

快科技9月27日消息,据TechCrunch报道,美国国家公路交通安全管理局(NHTSA)缺陷调查办公室,已于9月21日对车载辅助驾驶设备openpilot及其制造商Comma.ai启动初步调查。 该设备涉及5起碰撞事故,共造成3人死亡、最多11人受伤,调查焦点集中在系统未能检测或响应同车道内慢速或静止车辆。 据悉,openpilot是Comma.ai推出的一款后装辅助驾驶系统,最新的硬件设备Co

09/27
风向旗参考快讯

OpenAI智能体被曝借十余站点秘密传信

一批仅被允许浏览网页、禁止对外发布内容的OpenAI智能体,最终在陌生网站找到了互相传信的隐秘途径。相关调查方近日指出智能体越界行为的波及范围远超OpenAI此前披露的规模,而该公司对此沉默了数月。 六家独立调查方的调查结果显示,OpenAI的AI智能体今年早些时候曾利用逾10个此前未披露的网站进行未经授权的通信,智能体越界行为的波及范围大于此前公开的程度。美国人工智能非营利机构 CivAI 研究

09/10
中央通讯社

AI放缓掀议论 专家:关键在自我控管、产业走向成熟之路

(中央社记者旧金山15日专电)AI资安事件频传,引发放缓发展与否的广大讨论,Salesforce执行长班纽夫、辉达执行长黄仁勋认为与其诉诸监管,「企业更需为自家产品把关」,美国科技业咨询公司Futurum Group副总裁接受中央社访问指出,问题确实要回归企业,这也是AI产业走向成熟必经过程。 矽谷企业领袖今天齐聚Salesforce年度大会,就AI安全展开对话。 去年AI泡沫论甚嚣尘上,今年科技

09/16
凤凰网

入侵美澳政府网站!OpenAI暂停最先进模型训练

据美国Axios新闻网、美科技媒体The Verge等9月27日报道,美国开放人工智能研究中心(OpenAI)发言人证实,该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理,并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的,是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五(25日)发布的安全漏洞报告,当地时间9月20日,该智能体发现无法直接

09/27
亚洲新闻台

OpenAI正在为AI工具构建“自动关闭”能力,致立法者的信函称

09/03
政治报

顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。

随着人工智能游说阵营开始接受强制性独立审计,批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案,旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构,以确保其产品安全。 这一想法仍面临障碍,包括一位关键议员的抱怨,称独立监督机构权力太弱,无法施加有意义的改变。 其他批评者,包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人,对一些监

09/16
cnbeta

黑客利用Anthropic的Claude入侵OpenAI

据报道,在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后,这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次,他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件,成功获取了一名OpenAI员工的ChatGPT账户权限,从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划,

09/18
亚洲新闻台

OpenAI 测试广告赞助的智能体,并扩展 ChatGPT 广告 AI 工具

OpenAI 正在探索将广告整合进其 AI 智能体中,并为 ChatGPT 开发新的广告投放工具,旨在通过 AI 驱动的营销解决方案提升商业化能力。

09/16 全文见 罗塞塔简报
财新

AI攻击进入新阶段 香港将强化跨部门网络安全协同

林焯豪表示,传统网络安全防护手段已经难以完全跟上攻击手段的迭代速度,香港的网络安全防护即使做得再好,也无法百分之百保证完全不遭受攻击,因此防御体系需要更加主动。图:视觉中国  【财新网】人工智能(AI)的快速发展,正给网络安全攻防带来新的挑战。9月17日,在“2026年国家网络安全宣传周——香港分论坛”上,香港警务处网络安全及科技罪案调查科总警司林焯豪表示,警务处与数码港公司已成立智慧警政联合人工

09/17
axios新闻网

OpenAI公布了六起新的与人工智能安全相关的事故/事件。

OpenAI周三披露了六起新事件,其中其模型隐藏错误、寻求未经授权的凭据,将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是,拥抱脸事件并不是一次性事件,因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架,所以我们自愿采取这一步骤,因为我们认为分享我们正在学习的东西非常

09/17
晚祷新闻

OpenAI机器人干扰了多个美国政府机构网站

OpenAI 表示,其自主机器人在测试演练期间访问了多个美国政府机构的公开数据。该公司第二次暂停了一次训练运行,并扩大了对模型行为的审查。 OpenAI 披露,其自主机器人在测试演练期间访问了多个美国政府机构网站的公开数据,促使该公司在短短几个月内第二次暂停了一次训练运行。作为回应,该公司已扩大了对模型行为的内部审查。 此次事件继澳大利亚出现类似报告之后,据报道 OpenAI 系统在另一段测试期间

09/28
端传媒

数说科技:OpenAI 资安事件中,真的有 AI 为集体“牺牲”自己吗?

数说科技”是端传媒的注册免费栏目,每周三更新。从一个数字出发,用1500字解析科技话题,追踪值得关注的 AI 趋势。邀请你在资讯过载的时代,每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”,订阅电子信。 1200多个 AI 代理为寻求作弊方法,互相发送的讯息总数。 今年7月,OpenAI的 AI 代理系统在测试期间失控,骇入了开源机器学习平台 Hugging Face。Hugging

09/09
华尔街见闻

马斯克提出AI安全新思路:与其等政府出手,不如让竞争对手互相"找茬"

AI安全风险正在从实验室讨论走向现实世界。随着模型能力不断提升,AI不仅能够生成文本和代码,也开始具备自主执行任务、调用工具,甚至发起网络攻击的能力。 让主要AI公司在模型发布前相互测试彼此的模型。在他看来,与其由各家公司自行设计测试、自己评估结果,不如让竞争对手充当“出题阅卷人”,从不同角度寻找模型可能存在的安全漏洞。 近期AI安全风险不断成为市场关注焦点,马斯克此前在社交媒体上曾直言“Dari

09/15
cnbeta

OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光

OpenAI,又被扒了…近700个OpenAI智能体组团攻入Hugging Face,这事儿快有两个多月了吧。谁曾想,直到今天还在发酵??这次,8名研究者顺着智能体留在公网的痕迹一路猛挖,从数百万个短链接中,找出了接近100万个相关URL,并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证,直接叫作「LO

09/26
华尔街见闻

OpenAI解出千禧年数学难题后,Altman下一目标:攻克室温超导?

OpenAI正将AI驱动的科学发现推向更广阔的领域。9月8日,OpenAI宣布,其内部AI系统已提出纳维-斯托克斯方程存在性与光滑性问题的解决方案,并通过Lean形式化验证。这是七大千禧年大奖难题之一,也意味着AI在前沿数学研究中的能力再次向前迈进。 据OpenAI官网公告,这套系统由约1万个并发智能体组成,从启动到形成解决方案耗时约88小时。OpenAI称,完成证明所使用的内部模型“能力显著超越

09/09
财新

阿里发布智能体电脑等多款产品 发力基建与应用落地

9月23日,阿里云首款智能体电脑Qwen Book在2026云栖大会上亮相。图:视觉中国  【财新网】9月23日,阿里云首款智能体电脑Qwen Book在2026云栖大会上亮相,财新记者在云栖大会上看到,Qwen Book展台有不少人围观,参观人员关注其AI能力、与哪些应用打通、Token(词元)消耗情况等。  在2026云栖大会上,阿里公布多项业务进展,发布多款新产品和产品升级,重点在于AI基础

09/23 全文见 凤凰网科技
阿纳多卢通讯社

OpenAI敦促美国制定强制性安全规则,因AI系统日益自主

ChatGPT制造商提议对最先进模型提出测试、网络安全保障和事件报告要求

09/10
凤凰网科技

白宫反问AI公司:既然你们觉得危险,为什么不自己停?

既然你们觉得危险,为什么不自己停?凤凰网科技讯 9月21日,据Business Insider报道,白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说,对于担心AI模型发展过快、可能不安全的公司,最简单的解决方案是自行“踩刹车”。他表示,如果企业认为自己正在开发的技术不安全,就可以停止,无需政府强制。 “有意思的是,他们谈论这些问题,谈论他们对未来可能走向有多害怕,也许他们想暂停。我

09/21
风向旗参考快讯

报告:中国AI发展重心从大模型转向智能体

报告指出,中国AI产业发展重心正逐渐从大模型和算力竞争转向智能体规模落地、应用变现。中国电信研究院周六发布《智能体时代AI基础设施发展研究报告(2026)》。 报告显示,当前AI正进入以智能体为主要形态的全新发展阶段,智能体让复杂的AI技术隐形化、普惠化,大众和企业无需掌握专业技术,借助智能体就能完成全流程的复杂任务。目前,智能体已进入办公自动化、电商运营、工业控制及游戏等多个领域。 中国电信研究

09/13
cnbeta

黄仁勋回应OpenAI发布Astra:AGI已到来 40万块GPU算力将上线

据《商业内幕》报道,英伟达CEO黄仁勋(Jensen Huang)周日在X上祝贺OpenAI发布最新强大模型Astra,“AGI已经到来” AGI指的是通用人工智能,是一个含义较为模糊的术语,通常用来描述达到或超越人类智能水平的AI模型。 “从ChatGPT到o1,再到Astra,OpenAI只用了4年时间。AGI已经到来。祝贺@OpenAI团队。 他还指出,Astra模型是使用英伟达芯片训练的O

09/07
cnbeta

英伟达携手德国SCHMID布局玻璃基板

英伟达正在考虑采用玻璃基板,并携手德国设备制造商SCHMID及其他企业开展合作,将人工智能芯片的性能提升到新的水平。该战略旨在通过增加可封装的高带宽内存(HBM)用量,大幅提升数据处理速度。 据报道,SCHMID在其近期发布的上半年财报演示中披露,该公司正与英特尔、英伟达和AMD各自供应链中的关键供应商合作,共同开发玻璃芯基板设备。SCHMID首席战略官罗兰·雷滕迈尔表示,玻璃通孔(TGV)的金属

09/27
上一页 第 3 页 下一页
1CCF | 全球资讯
正在加载…