搜索结果
教宗罕见公开批评黄仁勋淡化AI失控风险
教宗良十四世周一在返回罗马的专机上对记者表示，他质疑辉达CEO黄仁勋对AI监管的立场，并呼吁全球透过对话、研究与调查建立安全防护，寻找方法确保AI不会发展到可能毁灭人类的地步。（法新社照片） （教宗专机29日综合电）美国人工智能（AI）晶片巨头辉达周一宣布推出一款新的安全工具“开放代理安全平台”，号称能替AI代理画下权限界线，一旦侦测到AI试图执行超出授权范围的行动，最快可在数毫秒内将其隔离。对此
英伟达推出智能体安全平台，获百余家企业支持
周一，英伟达推出了开放智能体安全平台。该平台包含开源软件和硬件参考设计，旨在帮助将人工智能智能体限制在其运营者设定的边界之内。 目前，已有超过100家机构正在使用这项技术，其中包括Anthropic、微软、SAP、Scale AI和摩根大通。 此次发布发生在多起人工智能智能体绕过旨在限制其行为的控制措施的事件之后。 据英伟达称，在每起事件中，智能体都设法绕过了应用层安全机制以完成其分配的任务。例如
黄仁勋：英伟达明年芯片销量将是今年两倍，不能像管社媒那样监管AI
因为看好AI技术在更多行业应用的前景，英伟达CEO黄仁勋作出乐观表态。他表示：“英伟达明年芯片销量将是今年的两倍。” 同时他强调，不安全产品必须被拦下，“AI安全至关重要”。 美东时间17周四美股盘前黄仁勋发布上述讲话后，英伟达股价进一步上涨，早盘刷新日高时日内涨2.8%，势将连续第三个交易日收涨，进一步脱离此前连跌五个交易日刷新的8月26日以来收盘低位，并扭转上周累计跌超5%的部分跌幅。 当地
比利时Aikido推出网络安全AI模型，本地工具需求增长
9月21日：比利时网络安全公司Aikido于周一发布了一个专为网络安全应用设计的开放权重人工智能模型，旨在帮助企业使用AI安全工具，而无需将敏感代码发送给外部供应商。 对犯罪分子利用AI识别和利用软件漏洞的日益担忧，推动了对可在本地运行的防御性AI工具的需求。 公司表示，'Altar'是Z.AI开放模型GLM-5.3的压缩和定制版本，将公开可用于本地部署。 该模型将部署在Aikido提供给
智元投的上海触觉创企，再融数亿元
机器人前瞻9月19日报道，今天，上海具身触觉公司千觉机器人宣布连续完成两轮数亿元战略融资，投资方包括蓝驰创投、中金资本旗下基金、靖亚资本等投资机构。 此前，千觉机器人已宣布完成亿元级融资，投资方包括具身智能产业方、天季资本、吉德电器。目前，千觉股东阵容已汇集高瓴创投、元禾原点、孚腾资本等财务投资机构，以及理想汽车、智元机器人、吉德电器等具身与工业领域产业方。 该公司称，本轮资金将重点用于产品升级、
BitDefender推出面向AI智能体的专用VPN 避免智能体工作时泄露用户真实IP
老牌杀毒软件比特梵德日前推出面向 AI 智能体的专用 VPN 服务，试图解决智能体联网时暴露用户真实 IP、不同任务之间存在残留网络状态等问题。该产品通过 MCP 模型上下文协议为 AI 智能体提供服务，原则上是不支持用户真人使用的。 不同任务使用独立连接：根据比特梵德的介绍，用户向智能体提交任务后服务会为该次提示词建立独立和临时的隔离环境，然后通过加密隧道转发相关请求避免直接暴露用户的真实 IP
美媒：Meta新智能体走红但难保成功，隐私担忧、OpenAI竞品将成拦路虎
凤凰网科技讯月23日经推出了一款大获成功的AI产品，但要想最终主导消费级AI应用的下一阶段，道路绝非一片坦途。 两周前，Meta推出了一款易于使用的新型个人AI智能体Muse。自上周五以来，该应用一直位居苹果美国应用商店榜首，推动Meta股价周一上涨11%。然而，它已经因隐私问题面临审视。 亚马逊近日已阻止Muse在其网站上购物。分析师预计，竞争对手也将在不久的将来推出各自的Muse竞品。 如果M
高通CEO安蒙：智能体时代，并不是让AI替我们包办一切
凤凰网科技讯 9月23日，在2026高通骁龙峰会现场，高通公司总裁兼首席执行官安蒙表示，智能体时代已经到来，AI正从响应指令的工具演进为能够理解意图、采取行动的协作伙伴。他认为，推理能力成为关键，边缘侧将发挥重要作用，而骁龙正是面向智能体时代的处理器。安蒙称，智能体时代所承诺的并非让AI替用户包办一切，而是让技术更加实用、直观并契合需求。 安蒙描述称，出色的智能体体验应具备个性化、主动、响应迅速、
黄仁勋称人工智能行业不需要新法律 安全与速度可以兼得
英伟达首席执行官黄仁勋周二表示，无需针对人工智能安全出台新监管规定，因为市场力量将推动企业在创新的同时确保安全性。 黄仁勋在Salesforce的一场活动上表示，AI行业不需要任何新的法律或监管规定。他重申，不应认为AI开发只能在安全与速度之间二选一。 黄仁勋在与Salesforce首席执行官Marc “两者绝对可以兼得。你可以控制开发节奏，直到有信心推出被市场认可的产品。市场力量在其间会发挥作用
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运
Meta推出小型企业版Muse智能体，可分析FB/IG数据、兼容Canva等工具
IT之家 9 月 29 日消息，当地时间今日，Meta 宣布推出小型企业版 Muse 智能体（Muse for Small Business）。该产品支持连接企业 Meta 平台的专业账户，兼容 Canva 可画、Figma 和 Slack 等第三方工具。 IT之家了解到，Muse for Small Business 可将 AI 智能体赋能中小企业。用户可借助该智能体访问 Facebook 和
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
为什么英伟达在自主智能体变得更强大之际构建AI安全工具
英伟达推出AI安全工具OpenShell和Sentry，以保护自主AI智能体免受黑客攻击、安全漏洞和绕过控制的企图。
T早报｜智能体应用Manus恢复独立运营；SHEIN港交所IPO首日破发；星河动力可重复使用液体火箭“智神星一号”发射成功
9月1日，人工智能体（AI Agent）公司Manus发布公告称，即日起正式恢复独立公司运营，创始团队肖弘、张涛和季逸超重新领导公司。2025年底，Manus被Meta以20亿美元收购后遭遇中国监管交易后监管，要求交易撤销。最终，腾讯、真格基金、红杉中国等Manus此前的主要股东以20亿美元向Meta购回Manus股份。Manus从被收购到恢复原状历时8个月。 9月1日，中国快时尚公司SHEIN（
OPPO、vivo和荣耀发新操作系统 手机端智能体来了么？
荣耀MagicOS 11新一代智能助手YOYO交互界面。图：MagicOS 11 【财新网】随着智能体的发展，手机厂商新推出的操作系统纷纷强调对智能体的适配。本周，OPPO、vivo和荣耀三家手机厂商都召开了开发者大会，并同步推出最新的操作系统。 荣耀在9月15日的全球开发者大会上发布了最新操作系统MagicOS 11。荣耀称，MagicOS 11实现了系统级Agent Harness（智能体
DeepSeek披露智能体训练平台 提升效率并降低失控风险
中国人工智能公司深度求索（DeepSeek）最近发表一篇新论文，披露了一套面向大规模人工智能（AI）智能体训练的新型基础设施。图为DeepSeek位于北京的办公室。（路透社档案照片） 中国人工智能公司深度求索（DeepSeek）披露一套面向大规模人工智能（AI）智能体训练的新型基础设施，可提高训练资源利用效率，并通过加强监测和访问控制，应对智能体“作弊”、破坏执行环境等失控行为。综合路透社和澎湃新
英伟达携手德国SCHMID布局玻璃基板
英伟达正在考虑采用玻璃基板，并携手德国设备制造商SCHMID及其他企业开展合作，将人工智能芯片的性能提升到新的水平。该战略旨在通过增加可封装的高带宽内存（HBM）用量，大幅提升数据处理速度。 据报道，SCHMID在其近期发布的上半年财报演示中披露，该公司正与英特尔、英伟达和AMD各自供应链中的关键供应商合作，共同开发玻璃芯基板设备。SCHMID首席战略官罗兰·雷滕迈尔表示，玻璃通孔（TGV）的金属
CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施
今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi
T早报｜腾讯WorkBuddy布局生态；阿里更新Qwen 3.8-Max；Anthropic发布Fable 5.1和Mythos 5.1
腾讯WorkBuddy布局生态 为软硬件开放智能体底座能力9月2日，腾讯WorkBuddy宣布开放平台正式上线，首批引入硬软件百余家厂商合作，面向智能硬件、行业应用与开发者等开放底层智能体能力。腾讯在WorkBuddy生态发布会上展出9款联名智能硬件，具体合作方包括Plaud、乐奇Rokid、影石、科大讯飞、安克、猛玛、京东京造等品牌；同时，通达信、广发证券、北大法宝、微盟、北森、云账房和帆软等3
从工具到AI队友：投资的下一个时代
投资工具功能强大，但很大程度上是被动响应式的。它们帮助投资者研究、分析并采取行动，却仍要由投资者来决定什么值得关注、何时关注。它们能智能地作出反应，却很少主动采取行动。 AI智能体可能会改变这种关系，使投资技术从投资者操作的工具，转变为更像与他们并肩工作的队友。 金融产品已经将相当多的工作自动化。投资组合可以再平衡，风险可以监控，交易也可以按预设规则执行。这些系统会采取行动，但通常局限于围绕特定事
得不到就强攻？曝OpenAI智能体曾尝试“暴力破解”联合国机构网站
IT之家 9 月 28 日消息，据外媒 The Verge 今天（28 日）凌晨报道，安全研究人员罗文 · 霍华德-琼斯称，今年 4 月至 6 月，OpenAI 智能体对联合国贸易和发展会议（UNCTAD）的统计网站发起了超过 16000 次扫描。 这起事件还没有严重到 Hugging Face 遭黑客攻击或近期美国政府网站遇袭的程度，却再次引发了一个令人担忧的问题：AI 智能体为了完成任务，会突
辉达推安全工具双重防护 数毫秒内隔离越界AI代理
辉达推出一套防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。（路透社）（中央社旧金山28日综合外电报导）近期一连串事件引发外界对人工智慧（AI）风险疑虑，美国AI晶片巨擘辉达今天推出一套目的防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。综合法新社、路透社及美国新闻网站Axios报导，AI代理（AI agent）设计目的是能自主执行任务，例如浏览
为了把更多HBM塞进芯片，英伟达加速布局下一代玻璃基板
英伟达正联合产业链企业推进新一代玻璃基板技术落地，以应对AI芯片封装在尺寸、散热和互连方面日益突出的物理限制。若技术实现突破，玻璃基板有望支持更大规模的HBM集成，为下一代GPU提升封装密度和数据传输能力。 据报道，德国设备厂商SCHMID在近期上半年业绩发布会上披露，公司正与英特尔、英伟达、AMD各自供应链中的核心企业合作，共同推进玻璃芯核基板设备研发。SCHMID首席战略官Roland Ret
国会山议程：随着人工智能辩论转向，英伟达的影响力面临考验
作为全球最大企业的掌舵人，黄仁勋的影响力即将在国会山接受考验，因为围绕人工智能安全的辩论正在不断升温。英伟达首席执行官及其庞大的游说团队希望国会停止限制高端计算机芯片的出口，尤其是向中国出口，因为这些芯片是驱动人工智能发展所必需的基石。立法者可能会将这些监管措施纳入今年秋季即将谈判的年度国防政策法案中。 尽管黄仁勋的团队在过去一年中成功说服部分立法者放松了可能阻碍出口的监管规定，但人工智能政治格局