搜索结果
AI越来越会“越狱”后，英伟达开始卖“笼子”了
凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
为什么我终于愿意给Meta AI一个机会
Meta终于承诺提供了一项让我一直对它的AI服务望而却步的功能：隐私保护。 为什么这很重要？在如今这个拥有众多能够满足用户需求的AI模型的世界里，了解自己的数据将被如何使用是一个至关重要的问题，尤其是当涉及到敏感信息时。 相关新闻动态：作为Facebook的母公司，Meta过去几乎可以获取用户与Meta AI平台共享的所有数据；但近几个月来，它的态度发生了明显变化： 在8月份发布的一份长达6500
Meta推AI助理Muse 存取敏感个资升高安全风险
（中央社纽约9日综合外电报导）Meta今天推出一款备受期待的人工智慧（AI）助理，能够自动替用户寄发电子邮件、卖车、预订旅游行程等。然而，公司内部对这项技术在处理敏感个资时的管理方式，仍有疑虑。 报导，这套对外名为Muse（缪斯）、内部代号Hatch（意为「孵化」）的AI代理人，是执行长祖克柏（Mark Zuckerberg）欲将「个人超级智慧」带给每天使用Meta服务的数十亿人的核心计划。 这项
OpenAI开始分阶段推出GPT-6 Astra模型
周四开始分阶段发布其最新模型，该公司称该模型超越了Anthropic最先进的模型，并切实接近“通用人工智能”。 OpenAI表示，GPT-6 Astra是其首个跨越“关键”网络安全能力门槛的模型，初期将仅限于企业使用，以便它们解决漏洞。 此举与Anthropic限制发布Mythos的做法如出一辙，Mythos的能力促使监管机构介入。五角大楼周四确认了对Mythos的禁令。 在专家、科技领袖和公众对
OpenAI推出全天候AI智能体Dots，相关域名已被马斯克拿下
IT之家 9 月 30 日消息，当地时间周二，OpenAI 发布了一款名叫 Dots 的新产品。这是一款可以持续运行的人工智能智能体，拥有一个软乎乎、圆滚滚的卡通形象。虽说这个色彩明快的虚拟形象或许能博得大家一笑，但这次发布会过后，笑得最开心的人恐怕要数埃隆 · 马斯克（Elon Musk）。他曾是 OpenAI 的创始人，后来离开了这家公司，推出了竞品 Grok，此前还对 OpenAI 发起过诉
Meta宣布推出新的个人AI代理，可在线购物、回复邮件并完成其他任务
这款新工具能够执行购物和发送电子邮件等任务，是Meta将其庞大的AI投资变现的最新尝试。
利用人工智能领先于支付欺诈
当消费者点击支付按钮、进行在线购物或转账时，他们都期望交易过程是安全的。随着越来越多的支付行为转向线上，维护消费者的信任对企业来说变得愈发重要。根据 Visa 委托进行的一项调查，近七成的新加坡居民信任数字支付方式；不过也有 42% 的受访者遭遇过诈骗，其中 8% 的人因此蒙受了经济损失。 诈骗手段也在不断变化：诈骗者不再仅仅拦截交易，而是利用人工智能（AI）、自动化技术以及社会工程学手段，诱使受
辉达推安全工具双重防护 数毫秒内隔离越界AI代理
辉达推出一套防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。（路透社）（中央社旧金山28日综合外电报导）近期一连串事件引发外界对人工智慧（AI）风险疑虑，美国AI晶片巨擘辉达今天推出一套目的防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。综合法新社、路透社及美国新闻网站Axios报导，AI代理（AI agent）设计目的是能自主执行任务，例如浏览
Meta发布Muse，一款内置隐私保护的个人AI代理
该公司表示，Muse旨在与OpenClaw和Instinct竞争，可以帮你卖车、订机票等一切事务。
OpenAI高管：Astra需求太猛，新的Pro订阅或被迫暂停
GPT-6 Astra的发布正在引发一场算力与容量危机。Astra的用户需求已超出历史经验，公司可能不得不暂停新的Pro订阅。 Tibo在X平台发文称，“Astra的需求真的是前所未有。我们已经在拉动所有能拉的杠杆来维持服务，但直到现在，我从未见过任何类似的情况——而我们此前已经经历过非常陡峭的增长。”他表示，首要原则是确保现有用户的服务质量，但如果需求持续，“我们可能不得不暂时暂停新的Pro订阅
评论：早盘竞标：油价暴跌，AI重获动力
Meta新AI助手Muse受到热烈欢迎，加上油价走软，足以在本周开局提振股市，马克·扎克伯格的公司周一因对其新代理的需求而飙升超过11%。
AI会「痛」吗？｜Jack Talk・去片
本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连
AI智能体使银行面临新风险
金融机构、监管机构和立法者正在努力应对这项技术可能如何影响存款人行为。 得益于Meta，AI个人助理的时代已经到来，这可能会给全球金融体系带来一场清算。 这是银行及其监管机构面临的最新警钟，提醒人们警惕迅速兴起的变革性技术浪潮所带来的危险。 Meta本月推出的Muse让人们重新关注到一种可能性：人们可能会利用所谓的AI智能体，轻松地将资金转移到支付更高存款利息的竞争对手银行，从而抽走许多银行廉价的
Meta推出Muse人工智能助手
Meta推出的一款名为Muse的新型人工智能助手，可能是许多人首次体验到能够真正为你做事、而不仅仅是回答问题的人力智能。你可以把它想象成一台安装在Meta服务器上的电脑，当你下达指令时，它能够连接并控制你的电子邮件、日历或健康信息——类似于氛围程序员使用ChatGPT和Claude Code所做的事情。但是，人们会信任Meta来处理如此私密的信息吗？Meta在周二的发布会上着重解决了这个数据安全问
Meta推出的Muse AI助手存在严重安全漏洞
Meta创始人兼首席执行官马克·扎克伯格曾不遗余力地宣传其新款人工智能助手Muse的安全性，声称它是“从底层开始就为隐私和安全而构建的”。然而，一个允许本地运行的应用程序和终端命令完全控制该代理的零日漏洞引发了严重的质疑。亚马逊周日开始在其网站上屏蔽Muse，这进一步加剧了人们的疑虑。 Meta于几周前推出了Muse。该助手可以“预约、填写表格并处理客户服务”，“主动分担你的任务”，并能“进行购物
AI智能体成为最终聚合者：Meta和微软争夺新科技大奖
Stratechery的本·汤普森（Ben Thompson）分析了2026年从以应用为中心的计算向以智能体为中心的计算的转变。 他认为，Meta的Muse和微软的Copilot/Autopilot等AI智能体正在成为用户的主要交互界面，使传统应用程序沦为单纯的“供应商”或实现细节。 通过为用户提供专用的虚拟机（智能体计算机），Meta和微软正致力于控制交互界面以及用户需求的“灵感”阶段。 这一转
独家：Meta为其新个人AI代理Muse测试“人工礼宾”服务
纽约，9月22日——据路透社看到的内部公司帖子显示，Meta一直在为其新个人AI助手Muse测试一种“人工礼宾”服务，即让人类承包商悄悄处理一些通过该数字代理拨打的电话。 其中一篇帖子显示，这家Facebook和Instagram的母公司上周向员工通报了这项测试，此前不久，该公司刚刚公开为Muse推出了电话呼叫功能。 一些员工对人工代理处理电话提出了隐私担忧，警告称这可能导致敏感信息无意中与呼叫中
亚马逊禁封Meta的Muse AI助手在亚马逊官网购物
亚马逊已禁止Meta的Muse AI个人代理代表用户在Amazon.com上进行购物，理由是其违反了使用条款并存在安全风险。 亚马逊声称Muse会获取客户凭据且在操作时未进行身份识别，可能危及隐私。 Meta于2026年9月8日推出了Muse，并坚称该代理使用安全存储来保护凭据。 此次冲突发生在行业围绕“代理商务”及客户关系控制权的广泛博弈背景下，亚马逊同时也针对来自谷歌、OpenAI和Perpl
ICE正付费给一家有争议的AI公司以隐藏特工身份
美国移民与海关执法局（ICE）正在启动一项新的“反人肉搜索倡议”，利用人工智能帮助ICE人员对公众隐藏其身份，这是根据周一发给该机构全体员工的电子邮件所述。 这份由ICE代理局长戴维·文丘里拉签署、并由ICE员工泄露给The Intercept的备忘录，点名了一家名为ZeroFox的公司作为该倡议背后的技术公司。该通讯将ZeroFox描述为“一种现代化的保护性技术解决方案，旨在加强对我们最宝贵的你
OpenAI的人工智能代理需要迎头赶上
OpenAI推动了现代生成式AI聊天机器人的发展，但随着2026年DevDay活动的临近，该公司在其中一个最热门的领域——能够持续运行、面向消费者的AI代理方面落下了 behind。周二，OpenAI可能会试图在这一领域重新取得领先。 有传言称，OpenAI将推出自己的AI代理Aeon，作为对Meta的Muse、SpaceX的Grok Bot以及许多其他类似产品的回应。 Aeon有可能取得成功，但
Meta推出Muse AI代理。消费者会信任它吗？
在Meta因社交媒体对消费者的负面影响而达成一项高达180亿美元的多州和解协议不到两周后，该公司宣布了迄今为止对消费电子AI的最大胆押注——而这比以往任何时候的社交媒体都需要更高程度的信任。周二，该公司推出了全新的个人AI代理Muse，旨在为美国用户处理日常任务和项目。 要使用Muse，消费者必须比以往任何时候都更加信任Meta，交出更多个人信息。该AI代理通过连接用户日常工作流中使用的各种应用程
迎战Meta Muse，OpenAI紧急推出个人助手，预计周二发布
在Meta个人AI智能体Muse获得摩根大通最高评级、风头一时无两之际，OpenAI正加速推出一款名为"o"的常驻AI助手，以正面迎击这场日益激烈的AI智能体竞赛。 据科技媒体wccftech日前报道，据悉，OpenAI已在ChatGPT Pro相关产品文档中加入"o"的品牌标识，正式发布迫在眉睫，预计将于本周二（9月29日）的Dev Day活动上亮相。 这一动作被外界普遍解读为对Meta Mu
Muse 看起来与 OpenClaw 非常相似
我们似乎正步入一个 AI 智能体的复兴时代。Meta 新推出的面向消费者的 AI 智能体 Muse 在发布后不久便登顶 App Store 排行榜，据 Apptopia 估计，其在美国拥有 60 万日活跃用户。而 AI 智能体平台 Instinct 也因其创始人以 25 亿美元的估值进行融资而在科技界引起热议。然而，在底层架构上，它与开创这一潮流的平台 OpenClaw 有着明显的相似之处。 在过