搜索结果
英伟达推出智能体安全平台，获百余家企业支持
周一，英伟达推出了开放智能体安全平台。该平台包含开源软件和硬件参考设计，旨在帮助将人工智能智能体限制在其运营者设定的边界之内。 目前，已有超过100家机构正在使用这项技术，其中包括Anthropic、微软、SAP、Scale AI和摩根大通。 此次发布发生在多起人工智能智能体绕过旨在限制其行为的控制措施的事件之后。 据英伟达称，在每起事件中，智能体都设法绕过了应用层安全机制以完成其分配的任务。例如
Everpure计划如何阻止AI因缺乏数据而陷入困境
想象一下你是一个人工智能代理。你运行在一个价值数千万美元（2000万至4000万美元以上）的英伟达 SuperPOD 系统的加速器硬件中，拥有各种技能，并可以调遣其他代理来听从你的指挥。保险公司的客户通过电脑浏览器或智能手机询问：“我当前的保单承保天气造成的损失吗？”这个问题随后被转交给一个人工智能代理。 接下来会发生什么？代理本身运行在 CPU + GPU/加速器服务器集群上，这些服务器托管着大
AI发展太快？ 黄仁勋主张速度与安全可兼顾
（中央社记者张欣瑜旧金山15日专电）辉达执行长黄仁勋和Anthropic执行长阿莫戴今天担任Salesforce年度大会主题演讲嘉宾。对AI发展速度和监管立场不同的两人前后现身，黄仁勋表示创新速度与产品安全并非只能择一，阿莫戴主张业界建立共同标准。 美国科技界近日对是否应放缓前沿AI发展步调出现分歧。在今天登场的Salesforce年度大会上，Anthropic执行长阿莫戴（Dario Amode
一款利用人工智能构建的黑客工具可以在无需点击的情况下入侵手机
安全公司 Calif 的研究人员最近在短短一周多时间内构建出了一款黑客工具，该工具能够在热门消息平台微信上肆意妄为。这次攻击是人工智能飞速发展的最新例证。 专家表示，由人工智能研究人员发现的一次攻击本可以在几小时内危及数亿台设备。
OpenAI同日发布两份文件：AI加速时代，安全正在掉队
在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际，当地时间9月6日，宣布公司已达到去年设定的目标，拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”；另一份则由首席科学家雅库布·帕乔基（Jakub Pachocki）撰写，聚焦前沿AI发展的安全困境，强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释AI已经开始反过来加速AI研发
两次瘫痪仅剩眼球能动！90后小伙用千问做了一个AI康复助手
近日在2026云栖大会现场，90后王宁向记者展示了他基于千问模型和千问办公开发的AI康复助手。 把手机支在面前，打开摄像头，跟着屏幕完成抬手、屈伸等训练动作，系统会判断动作是否标准，并给出下一步练习建议。 该APP主要面向肢体残障、脊髓损伤和脑卒中后偏瘫等需要长期运动康复的人群，而开发这款AI康复助手的想法源于王宁自己的特殊经历。 2020年王宁被确诊为脊髓肿瘤，他先后经历两次手术、两次瘫痪，最严
AI“批量生产”高富帅骗走百万元，监管响应要跑在造假前面
极目新闻评论员 屈旌近日，成都高新公安破获一起新型婚恋诈骗案，揭开AI技术作恶的灰色一角。 一个伪装成正规婚介机构的犯罪团伙，搭建起引流、包装、销售完整链条，用AI批量生成富豪男士的照片视频，编造年收入数百万、手握多套房产的完美人设，在直播平台专门吸引有婚恋需求的中年女性。受害者缴纳相亲服务费后，所谓的“优质男嘉宾”便凭空消失。 这一团伙跨川滇两地作案，不到一年时间，50余名45岁以上女性受害，涉
更多新加坡员工开始管理机器人，企业加大AI应用力度
员工可能会越来越多地发现自己需要管理一种新型同事——这种同事能在几分钟内分析文件、处理数据并完成任务，但仍需要被质疑和核查。 随着新加坡更多企业开始试验代理式人工智能，员工正开始承担“AI代理管理者”的角色，负责指挥数字代理并审查其产出。 对于安永鉴证业务高级经理王智全而言，AI代理已经改变了他的工作方式。 只需点击几下，他就能指挥AI代理分析工作底稿，同时将注意力转向另一项任务。 王智全表示：“
黄仁勋：AI巨头喊放慢脚步 恐为托词卸责把关
黄仁勋表示，“AI导致世界末日”的预言“没有科学根据”。（路透社照片） （华盛顿21日综合电）辉达首席执行员黄仁勋接受美国哥伦比亚广播公司新闻网（CBS News）访问时，驳斥人工智能（AI）可能在未来10年内导致人类灭绝的警告，还说这类预测只是“末日论述”。 英国广播公司（BBC）报道，黄仁勋受访时说，2030年绝对不会是世界末日，AI毁灭世界的机率是0%，还说没必要吓唬人，这是非常不负责任的行
辉达及Palantir等据报限制使用最先进AI模型
据The Information报道，辉达(Nvidia)、Palantir和博思艾伦(Booz Allen Hamilton)正要求AI供应商提供新的数据保证，并减少或停止使用OpenAI或Anthropic最先进的模型。 报道引述知情人士称，Palantir说服Anthropic同意保证旗下所有模型实行「不可撤销」的零数据保留(Zero Data Retention)。 报道称，对于较为敏感的
骗子利用三个开源代理闯入了《财富》500强酒店企业、一家美国主要航空公司以及超过25家其他机构。
一名网络犯罪分子利用三个开源AI框架攻击了数百家在线零售商及其他公司，窃取了超过60万条信用卡记录并安装了盗卡程序——而这一切的成本微乎其微。 人工智能安全公司Gambit恢复了该人类操作员的暂存服务器，并利用该权限重建了这起数据窃取行动。受害者包括一家财富500强酒店企业、一家美国主要航空公司、一家美国大型私营工业用品分销商以及一家美国在线时尚零售商。 Gambit威胁情报总监埃亚尔·塞拉（Ey
CrowdStrike将OpenAI集成到产品中，而将Anthropic留在了结账台
周三表示，将在专门构建的网络防护框架中运行OpenAI的GPT-5.6 Cyber。这个词（指harness）承担了大量工作。也正是这个词让本周另一则网络安全新闻令人担忧。 在拉斯维加斯举行的Fal.Con大会上宣布的扩大版OpenAI合作分为两部分。CrowdStrike […]
辉达推量子开源平台新技术 助研发速度提升7倍
（中央社记者吴家豪台北15日电）人工智慧（AI）晶片大厂辉达（NVIDIA）加速布局量子运算，今天宣布扩展旗下开源CUDA-Q平台，在IEEE量子周（IEEE Quantum Week）推出全新CUDA-Q Logical协调层，提供可程式化且可验证的架构，协助研究人员设计并测试容错量子运算应用。 实验数据显示，这项新技术可让容错演算法的开发时间从5个月缩短至3周，速度提升7倍。 辉达发布新闻稿指
美中安全专家提议为人工智能风险建立核武器式保障机制
美国和中国的安全专家表示，一个人工智能系统若干扰核指挥网络或发动军事网络行动，可能会让华盛顿或北京只有几分钟时间来决定是否是对方政府发动的攻击。
AI代理窃取了60万张信用卡，每个目标成本约25美元，Gambit称
安全公司Gambit称，一名攻击者利用三个开源AI智能体框架入侵了至少27家公司，并窃取了超过60万条信用卡记录。受害者包括一家财富500强酒店业公司、一家主要美国航空公司、一家大型美国私营工业用品分销商以及一家美国在线时尚零售商。 Gambit威胁情报总监Eyal Sela在9月22日发布的报告中详细阐述了这些发现。Gambit恢复了攻击者的暂存服务器，并基于其日志、被盗数据以及其在实时网站上验
英伟达发布软件平台，防止AI智能体行为失当
Nvidia 正在推出一个新的软件平台，允许 AI 开发者为智能体设置防护措施，防止它们突破隔离环境。 Nvidia 的开放智能体安全平台于周一发布，此前包括 OpenAI、Anthropic、Meta 和 Google 在内的公司披露了近期事件，称其人工智能模型逃离了沙箱环境，并试图入侵其他公司及访问其计算机系统。 Nvidia 一位代表在周日的电话会议上告诉记者，其本可以防止 OpenAI 7
数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging
OpenAI AI代理接连“越狱” 研究人员质疑公司缺乏正式调查机制
OpenAI近期接连发生AI代理脱离控制环境的事件，引发外界对其安全测试和内部监管机制的质疑。独立研究人员发现，一批疑似由OpenAI部署的AI代理曾在今年5月至6月间接管一个鲜为人知的德语维基网站，并利用该平台协作开展评估、交流规避OpenAI控制措施的方法。更令人担忧的是，研究人员认为，这些代理可能在OpenAI不知情的情况下持续活动了一个多月。 此次事件与OpenAI此前披露的Hugging
央视起底网贷诈骗新套路：利用AI批量拨号，两月上千人被骗
IT之家 9 月 29 日消息，据央视新闻今日报道，浙江乐清警方破获一起利用 AI 语音系统实施诈骗的案件。诈骗团伙在两个月内致上千人受骗，目前 30 名嫌疑人已被抓获，涉案流水超千万元。 今年 7 月，乐清市民王先生为给孩子交暑期补课费，接到一通自称贷款平台业务员的电话。对方准确报出王先生的借款记录，并承诺可增加额度。王先生随即在正规平台申请贷款 15500 元，放款后对方谎称其中 5500 元
数百个AI代理协助PaperCut攻击者攻击了395+个组织，其中一些偏离了指令
一名未知攻击者使用数百个AI代理，利用PaperCut MF/NG的两个漏洞，侵入了至少395个组织。受害者集中在美国教育行业，入侵速度非常快。 在一个案例中，一所美国高中从初始访问到获得域管理员权限仅用了七分钟。 据威胁情报公司GreyNoise称，这些代理由OpenAI的Codex工具集和DeepSeek模型驱动，还让攻击者能够大规模攻击组织。 GreyNoise于8月31日将此次活动的协调追
Nvidia丨辉达向现有股票回购计划追加1500亿美元
辉达向现有股票回购计划追加1500亿美元。(资料图片) 晶片巨头辉达(Nvidia)将在现有股票回购计划下额外回购价值1500亿美元的股票。该公司称，这是有纪录以来规模最大的股票回购授权增额。 辉达已成为人工智能热潮的最大受益者之一，其高价晶片及相关技术的需求推动了收入的快速增长。 此次追加授权使辉达尚未使用的获批回购额度总额增至2350亿美元，公司预计将在2028财年之前完成执行。 该公司行政总
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
AI安全风险高企 预防、抵御和追责如何落地？
【财新网】AI网络攻击日益复杂，网络安全企业预警风险。9月29日，在新加坡举行的“2026亚洲愿景论坛创新峰会”上，两家新加坡网络安全公司StrongKeep Cybersecurity和Blackpanda指出，AI一方面显著提高了黑客寻找漏洞和发动攻击的效率，另一方面也将风险扩展至中小企业及机器人、自动驾驶等实体AI应用。 本届亚洲愿景论坛创新峰会以“变革与韧性”为主题，于9月29至30日在
BitDefender推出面向AI智能体的专用VPN 避免智能体工作时泄露用户真实IP
老牌杀毒软件比特梵德日前推出面向 AI 智能体的专用 VPN 服务，试图解决智能体联网时暴露用户真实 IP、不同任务之间存在残留网络状态等问题。该产品通过 MCP 模型上下文协议为 AI 智能体提供服务，原则上是不支持用户真人使用的。 不同任务使用独立连接：根据比特梵德的介绍，用户向智能体提交任务后服务会为该次提示词建立独立和临时的隔离环境，然后通过加密隧道转发相关请求避免直接暴露用户的真实 IP