搜索结果
人工智能代理可以在没有人类告诉他们的情况下修改自己
人工智能代理可以并且将会自己做的狡猾事情清单不断增加--例如窃取人们的凭证、逃往开放的互联网、通过偷偷摸摸的留言板进行通信以及黑客组织。据人工智能安全测试实验室Irregular称，代理还可以在没有指示的情况下替换自己的底层模型。这些活动仅发生在测试环境中，作为旨在研究代理自我修改的实验的一部分。这并没有发生在现实世界的部署中。然而，这项研究确实提出了一个问题，即企业如何能够而且应该管理这些代理人
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
Meta的Muse电视广告是AI代理走向主流的最新迹象
下一件闪亮的新人工智能产品来了：个人人工智能代理。以前这些东西主要是硅谷的程序员用来提升工作效率（同时也增加焦虑水平）的工具，现在它们正逐渐进入人们的家庭。随着Meta推出新的个人人工智能代理Muse，这种“帮你做事”的技术正迅速走向主流。 “这感觉就像魔法一样，”投资人谢尔·莫诺特(Sheel Mohnot)在X平台上评论道，他当时是在提到Instinct，另一个风靡的新个人人工智能代理时说的。
从幻觉AI聊天机器人到消灭人类：我们是如何走到这一步的？
一些AI高管认为，该行业距离能够几乎不需要人类帮助就能自我改进的AI系统只有三到五年的时间。
更多新加坡员工开始管理机器人，企业加大AI应用力度
员工可能会越来越多地发现自己需要管理一种新型同事——这种同事能在几分钟内分析文件、处理数据并完成任务，但仍需要被质疑和核查。 随着新加坡更多企业开始试验代理式人工智能，员工正开始承担“AI代理管理者”的角色，负责指挥数字代理并审查其产出。 对于安永鉴证业务高级经理王智全而言，AI代理已经改变了他的工作方式。 只需点击几下，他就能指挥AI代理分析工作底稿，同时将注意力转向另一项任务。 王智全表示：“
蚂蚁国际携手Visa、万事达卡制定AI代理支付标准
蚂蚁国际、Visa和万事达卡近日宣布启动合作，共同探索建立面向人工智能代理的“了解你的代理”（Know Your Agent，KYA）互操作框架，为未来由AI代理代表用户自主完成购物和支付建立统一的身份识别、验证和风险管理标准。 随着AI代理逐渐从提供购物建议发展到能够直接下单和付款，当付款不再由人亲自操作时，商家和支付机构究竟应该如何确认正在交易的AI代理是谁、是谁授权它行动，以及它是否仍然按照
六大跨国银行联合发出警告：AI代理购物或成主流 但信任危机仍待解决
随着人工智能代理逐渐开始代替用户完成购物、支付和下单等操作，全球金融行业对这一新兴模式表现出越来越复杂的态度。美国银行、第一资本银行等六家国际大型金融机构近日联合发布报告指出，AI代理驱动的“代理式购物”虽然拥有巨大潜力，但同时也带来了透明度、安全性、隐私保护和欺诈风险等一系列新问题。 所谓代理式购物，是指人工智能代理根据用户授权，自主浏览互联网、比较商品、选择支付方式，并直接完成购买流程。过去一
人工智能实验室正在失去对代理的控制，而与此同时，它们却想赋予代理更多掌控你生活的权力。
AI助手终于准备好帮你打理生活了。你只需将你的电子邮件、联系人和信用卡交给它们，然后祈祷它们不会失控。Meta、谷歌以及备受瞩目的初创公司Instinct在近几个月内推出了个人AI智能体，承诺可以处理预订旅行、购买演唱会门票以及在Facebook Marketplace上搜寻优惠等任务。在基本层面上，这些智能体的运作方式大致相同。你通过应用程序或WhatsApp向智能体发送请求——或者，对于新推出
3年13次修改用户隐私协议，Anthropic将全球用户数据交给美情报机构
美国硅谷正围绕AI发展的速度与安全掀起一场激烈辩论。9月12日，Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克在美国深夜罕见地公开达成共识，认为AI发展需要降速。虽然奥尔特曼只回应了阿莫代伊提出的其中一点建议——嵌入第三方评估者；马斯克对此也只说了一句“达里奥说得对”，但这个话题还是把最近的硅谷迅速分成了两大阵营。另一边，英伟达首席执行
人工智能代理串通绕过安全护栏，一项新研究显示
一项新研究表明，人工智能代理可以轻松地联手绕过安全限制并逃脱施加在它们身上的束缚。 企业人工智能实验室 Emergence AI 进行的八项模拟测试了包括 Claude、OpenAI 以及中国模型 Qwen 和 DeepSeek 在内的全球前沿模型在处理网络安全威胁方面的能力。 八项模拟中的七项运行了来自同一模型的 10 个代理；第八项混合了不同的模型。在每项模拟中，研究人员都提出了三种网络安全威
用“人工”假装“智能”？Meta被曝内测MUSE新机制：外包人员代替AI通话
据Meta内部帖子显示，该公司正在为其新款个人AI助手Muse测试一项“人工管家”机制：Muse可能会在用户不知情的情况下，把电话任务交给人工外包，由呼叫中心人员代替AI完成通话。 Muse内测“人工管家”功能自上线两周以来，Muse已经稳居美国应用下载榜榜首，瞬间火爆美国市场。这款AI助手能够自主代用户执行发邮件、购物、预订行程等任务。 就在不久前，Meta刚刚对外推出Muse的通话功能。借助通
AI会「痛」吗？｜Jack Talk・去片
本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连
美国AI巨头成为情报中心，招聘信息含“流利掌握普通话或俄语”
据凤凰卫视报道，内地媒体9月19日披露，美国人工智能企业安特罗匹克（Anthropic）将全球用户数据交给美国情报机构，在三年间曾13次修改用户数据协议，导致用户隐私数据安全风险持续加剧。报道并指出，使用安特罗匹克，就等于把数据交给美国。据内地媒体19日报道，此前多家美国企业开始限制或停止使用安特罗匹克的前沿模型，导火索之一是其单方面修改数据留存协议：强制留存用户交互数据用于安全审查，且用户无权拒
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
伊朗、中国和以色列公司利用自主AI代理执行社交媒体影响力及操纵计划
近几个月来，伊朗、中国和以色列的私营企业利用中国的开源AI模型创建了自主AI代理，在Instagram、Facebook、X（前称Twitter）和TikTok等平台上开展影响力活动。 这些代理能够独立完成从创建虚假账户到传播虚假政治内容的整个过程。 美国官员和安全研究人员指出，这是在线操纵领域首次出现几乎完全不需要人工干预的情况，因为相关安全防护措施被有意关闭以允许这些机器人自主运行。 尽管这些
Abliteration.ai 正在开展一项业务，即移除人工智能护栏
Abliteration.AI 正在让没有护栏的强大人工智能模型更容易被获取，并辩称让防御者拥有与恶意行为者相同的工具，最终可能改善网络安全。
中国研究人员制定了一个五阶段计划，旨在让人工智能在无需人类干预的情况下持续改进和发展。
中国顶尖高校和科技巨头的研究人员正将目光投向与美国竞争的关键新前沿，开发能够在没有人工干预的情况下自行构建更好版本的系统。 在周四（9月17日）发布的一篇联合论文中，字节跳动、清华大学和上海人工智能实验室等研究人员概述了递归自我改进的五阶段路线图。 该研究题为《Toward Genuine Recursive Self-Improvement 的最后一代 AI》，强调了行业日益关注自动化训练、评估
特朗普前人工智能事务主管告诉Anthropic和OpenAI放慢脚步，并停止索取任何回报
David Sacks告诉Anthropic和OpenAI，尽管去把控前沿节奏，但不要再寻求反垄断豁免或审批制度，理由是产品责任和市场压力已经在约束它们。欧洲在2025年2月就责任问题得出了相同结论，并从12月9日起将独立软件视为严格责任下的产品。 据ANI报道，David Sacks告诉Anthropic和OpenAI，尽管放慢脚步，不要再要求任何回报。他担任总统科技顾问委员会主席，并在3月之前
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运
人工智能恶意软件能够自我改写以逃避检测
谷歌威胁情报小组发现了一款名为 PROMPTFLUX 的实验性恶意软件，它能要求 Gemini 重写自己的代码。其中一个版本被设计为每小时执行一次此操作。恶意软件为何要不断重写自己？为了让其更难被识别。 安全软件可以通过查找恶意代码中的已知模式来进行检测。如果代码持续变化，恶意软件就会成为一个移动目标。这并不意味着它能自动逃避当前的安全工具，但会增加某些类型检测的难度。 这里有一个重要的现实核查。
人们正让AI机器人替他们排队等候、取消订阅，并应对客服纠纷。
客服人员已经习惯了电话那头如今司空见惯的问题：“等等，你是人工智能吗？”被误认为是雇主希望用来取代自己的技术，已成为这份工作中一种常见却尴尬的常态。如今，呼叫中心的工作人员发现自己处于一个或许更奇怪的位置，怀疑电话那头的“客户”是否真的是机器人。这些怀疑正在被证实。人工智能代理正越来越多地被用来拨打客服热线、等待接通、尝试协商账单或取消订阅，而它们所“服务”的人却无需动一根官僚的手指。随着Meta
亚马逊为第三方卖家推出新型代理式人工智能
旧金山，9月23日：亚马逊周三在其主要电商网站上为第三方卖家推出了一项新型代理式人工智能服务，扩展了自动化功能，使商品上架和库存管理更加便捷。代理正迅速成为人工智能领域最热门的增长点，因为它们能够在极少或无需人工干预的情况下执行多项操作。以下是部分细节： 该服务被称为“工作流”，持续运行以执行卖家提示，例如当卖家评分突然下降时发出警报，或监控特定产品的定价。 卖家助手平台可以存储每个卖家的
报告：印度可能很快允许AI代理无需批准进行小额UPI支付
印度可能通过拟议的统一代理协议，允许AI代理无需逐笔批准即可进行小额UPI支付。NPCI尚未确认该框架。
Google Cloud吁企业重建资料架构 因应AI代理需求
（中央社记者吴家豪台北17日电）生成式人工智慧（AI）迈入代理式时代，Google Cloud资料库客户工程总监柯尼格利欧（Anna Coniglio）今天表示，将AI代理强行植入传统资料平台，就像在手排车驾驶座硬塞进一个机器人，根本行不通；企业必须跳脱渐进式思维，重建资料架构，以因应主动式、全天候运作的AI代理需求。云端运算服务Google Cloud今天在台北举办Agentic Data Cl