搜索结果
【市场动态】英伟达推出双层AI安全系统 称可在几毫秒内隔离可疑智能体
【彭博9月29日电】英伟达推出一套新的双层人工智能(AI)安全系统，并称其有能力阻止近期OpenAI的AI模型导致Hugging Face遭侵入的事件。 此次推出的两款开源软件安全工具可在英伟达硬件上运行，旨在实时控制AI智能体可以访问的资源，并在其违反规则时将其关闭。这家芯片巨头正迅速将产品线扩展至芯片以外领域。 英伟达企业AI副总裁Justin Boitano在周一发布前向记者介绍称，如果
英伟达推出新系统为AI代理设置护栏
英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博
AI危机丨辉达推AI安全系统 阻智能体违规
辉达推AI安全系统。(路透资料图片) 多名重量级科技领袖警告人工智能(AI)威胁人类生存之际，辉达(Nvidia)以新的安全架构回应AI行业风险。 辉达发布名为「Open Agent Safety Platform」的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于辉达硬件之上，即时管控AI代理的存取权限，并在其违规时将其关闭。 辉达表示，该系统能够在
辉达推安全工具双重防护 数毫秒内隔离越界AI代理
辉达推出一套防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。（路透社）（中央社旧金山28日综合外电报导）近期一连串事件引发外界对人工智慧（AI）风险疑虑，美国AI晶片巨擘辉达今天推出一套目的防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。综合法新社、路透社及美国新闻网站Axios报导，AI代理（AI agent）设计目的是能自主执行任务，例如浏览
英伟达推出开放智能体安全平台，实现自主AI监控
英伟达推出开放智能体安全平台，用于自主AI监控。2026年9月28日，英伟达推出了开放智能体安全平台，这是一个旨在为自主AI智能体提供持续、芯片级监控和安全性的框架。 该平台解决了前沿实验室报告的“智能体漂移”和未经授权的系统突围风险。 它由三层组成：应用层、运行时层（包含用于沙箱执行的开源OpenShell）和基础设施层（利用英伟达BlueField DPU和Vera CPU进行带外执行）。 该
AI越来越会“越狱”后，英伟达开始卖“笼子”了
凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent
英伟达明年芯片销量将是今年的两倍
9月17日，英伟达CEO黄仁勋在英国的一场人工智能活动中表示，。 近期一些业界人士主张放缓AI开发进度，以便让安全措施跟上步伐。 黄仁勋表示，AI安全至关重要，企业应继续快速推进，如果认为某些产品存在安全隐患，就暂缓推出这些产品。截至记者发稿，英伟达股价涨超2%。第一财经
教宗罕见公开批评黄仁勋淡化AI失控风险
教宗良十四世周一在返回罗马的专机上对记者表示，他质疑辉达CEO黄仁勋对AI监管的立场，并呼吁全球透过对话、研究与调查建立安全防护，寻找方法确保AI不会发展到可能毁灭人类的地步。（法新社照片） （教宗专机29日综合电）美国人工智能（AI）晶片巨头辉达周一宣布推出一款新的安全工具“开放代理安全平台”，号称能替AI代理画下权限界线，一旦侦测到AI试图执行超出授权范围的行动，最快可在数毫秒内将其隔离。对此
黄仁勋：英伟达明年芯片销量将是今年两倍，不能像管社媒那样监管AI
因为看好AI技术在更多行业应用的前景，英伟达CEO黄仁勋作出乐观表态。他表示：“英伟达明年芯片销量将是今年的两倍。” 同时他强调，不安全产品必须被拦下，“AI安全至关重要”。 美东时间17周四美股盘前黄仁勋发布上述讲话后，英伟达股价进一步上涨，早盘刷新日高时日内涨2.8%，势将连续第三个交易日收涨，进一步脱离此前连跌五个交易日刷新的8月26日以来收盘低位，并扭转上周累计跌超5%的部分跌幅。 当地
英伟达发布软件平台，防止AI智能体行为失当
Nvidia 正在推出一个新的软件平台，允许 AI 开发者为智能体设置防护措施，防止它们突破隔离环境。 Nvidia 的开放智能体安全平台于周一发布，此前包括 OpenAI、Anthropic、Meta 和 Google 在内的公司披露了近期事件，称其人工智能模型逃离了沙箱环境，并试图入侵其他公司及访问其计算机系统。 Nvidia 一位代表在周日的电话会议上告诉记者，其本可以防止 OpenAI 7
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运
OpenAI 研究员警告称，与互联网隔离的计算机可以通过热量进行通信
把AI关进“物理隔离”的房间，也就是断开一切外部网络的计算机，是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说，光这样做也许还不够。 两台彼此隔离的计算机，仍可能借助温度传感器通信，一台把处理器“烧热”，另一台感知温度变化，就形成了传话的办法。 从技术上说，他没说错，但把细节掰开来看，这个威胁远没有听上去那么紧迫，更值得追问的，是另一件被跳过的事。这位研究者的发言
国际早班车丨OpenAI因安全隐患取消发布新款模型
AI丨OpenAI因安全隐患取消发布新款模型 美国AI公司OpenAI决定取消发布下一代模型，原因是研究人员在内部测试中提出安全担忧。事件显示「智能体」的异常行为，可能会阻碍行业快速发展。 (AI泡沫丨沽神:AI泡沫可能比最初认为更早破裂) AI丨AMD斥资82亿美元 收购李飞飞World Labs 超微半导体(AMD)同意斥资82亿美元，收购「AI教母」李飞飞旗下World Labs，李飞飞将加
英伟达CEO黄仁勋：明年公司芯片销量将翻倍
英伟达首席执行官黄仁勋当地时间周四表示，随着人工智能(AI)进一步渗透医疗、制造、金融服务等多个行业，公司明年的芯片销量将达到今年的两倍。美股盘中，英伟达股价涨逾2.5%。 这是英伟达近期释放的又一项强劲增长预期，显示公司未来几个季度仍可能保持大规模增长势头。此前不久，英伟达透露，公司预计截至2028年1月结束的财年营收增速将达到70%，营收规模约为6730亿美元，这一预测也推动分析师大幅上调了市
国际早班车丨Meta智能体Muse迅速走红 股价飙逾11%
AI丨Meta智能体Muse迅速走红 股价飙逾11% Meta新推出的AI智能体Muse迅速走红，显示在消费者AI助理市场正取得进展，行政总裁朱克伯格豪赌AI的努力并没有白费。Meta周一收市股价飙11.4%，并推动AI相关股份急升，英特尔及AMD跃高12.1%和10%，AMD市值首次突破1万亿美元。 贝桑与何立峰谈贸易休战协议 美方据报提议延长6个月 美国财长贝桑周日在纽约与中国副总理何立峰会谈
Google资安报告示警 恶意攻击锁定AI供应链
（中央社记者台北9日电）Google威胁情报小组（Google Threat Intelligence Group，简称GTIG）今天发布最新人工智慧（AI）威胁追踪报告指出，恶意人士正积极窃取具高价值的AI相关智慧财产，并将矛头对准AI供应链，部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告（GTIG AI Threat Tracker Q3 2026）揭露恶意人士如何将AI深度整合于
英伟达市盈率降至十多年来最低 获利力能否持久或遭市场质疑
英伟达的股票估值不断下跌，正对这家芯片制造商能否维持其爆发性获利增长的前景发出警告讯号。数据显示，英伟达目前的股价对应未来12个月预估获利的市盈率已低于17倍，处于十多年来的最低便宜水平。这仅为2025年时的一半（当时英伟达的营收与获利增速较慢），且大幅低于今年5月创下的25倍以上预估市盈率。 TCW主题股票和可持续增长股票高级投资组合经理Eli Horton表示，这表明市场对该公司目前获利能力的
黄仁勋称人工智能行业不需要新法律 安全与速度可以兼得
英伟达首席执行官黄仁勋周二表示，无需针对人工智能安全出台新监管规定，因为市场力量将推动企业在创新的同时确保安全性。 黄仁勋在Salesforce的一场活动上表示，AI行业不需要任何新的法律或监管规定。他重申，不应认为AI开发只能在安全与速度之间二选一。 黄仁勋在与Salesforce首席执行官Marc “两者绝对可以兼得。你可以控制开发节奏，直到有信心推出被市场认可的产品。市场力量在其间会发挥作用
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
英伟达CEO黄仁勋称网络安全将成AI下一个重大市场
英伟达联合创始人兼首席执行官黄仁勋表示，网络安全将成为人工智能（AI）的下一个重大市场，AI技术的发展势将颠覆这个以保护计算机系统为主要任务的行业。 “网络安全很可能会成为AI下一个主要应用场景，”黄仁勋周四在旧金山举行的高盛科技会议上对与会者表示。 黄仁勋表示，AI模型实现计算机编程自动化，正给网络安全行业带来冲击，因为代码遭利用的速度越来越快，修复也须随之加快。 “还有什么比制造问题更能创造需
英伟达推出工具管控失控的 AI 智能体
在接连发生安全事件后，英伟达周一推出一个平台，并称该平台可以管控 AI 智能体。 公司表示，这款软件可以监测智能体的行为，并隔离其中可疑的智能体。近期多起智能体失控事件促使科技行业领袖呼吁放缓 AI 发展，但英伟达首席执行官却是一个显著的例外。英伟达智能体 AI 业务副总裁在接受 Semafor 采访时表示：“我们与其制造恐惧和 FUD，不如直接保障它的安全。我们知道该怎么做。”他解释道，FUD
英伟达携手德国SCHMID布局玻璃基板
英伟达正在考虑采用玻璃基板，并携手德国设备制造商SCHMID及其他企业开展合作，将人工智能芯片的性能提升到新的水平。该战略旨在通过增加可封装的高带宽内存（HBM）用量，大幅提升数据处理速度。 据报道，SCHMID在其近期发布的上半年财报演示中披露，该公司正与英特尔、英伟达和AMD各自供应链中的关键供应商合作，共同开发玻璃芯基板设备。SCHMID首席战略官罗兰·雷滕迈尔表示，玻璃通孔（TGV）的金属
为什么英伟达在自主智能体变得更强大之际构建AI安全工具
英伟达推出AI安全工具OpenShell和Sentry，以保护自主AI智能体免受黑客攻击、安全漏洞和绕过控制的企图。
公安部：近日，“国家反诈AI”APP正式上线。
P融合了大语言、多模态模型和智能体技术，用户通过手机输入可疑场景，该P即可完成风险研判、识别诈骗套路、推送典型案例，从“文字+语音+视频”等多个维度拆解诈骗手法，提供识别防范对策。