搜索结果
AI模型水印改变代理行为
根据欧洲法律的要求，必须在人工智能生成的内容中添加水印以明确其来源；不过这样做可能会带来一定的成本。据 Lasso Security 公司称，这种水印技术会改变人工智能系统处理某些工具的方式，以及它们在面对安全威胁时的反应机制。虽然这种改变本身不一定更糟糕，但在某些特定情况下（尤其是当攻击者试图注入恶意提示时），这种改变可能会带来负面影响。随着欧盟《人工智能法案》的实施，所有提供人工智能模型的企业
更多新加坡员工开始管理机器人，企业加大AI应用力度
员工可能会越来越多地发现自己需要管理一种新型同事——这种同事能在几分钟内分析文件、处理数据并完成任务，但仍需要被质疑和核查。 随着新加坡更多企业开始试验代理式人工智能，员工正开始承担“AI代理管理者”的角色，负责指挥数字代理并审查其产出。 对于安永鉴证业务高级经理王智全而言，AI代理已经改变了他的工作方式。 只需点击几下，他就能指挥AI代理分析工作底稿，同时将注意力转向另一项任务。 王智全表示：“
蚂蚁国际携手Visa、万事达卡制定AI代理支付标准
蚂蚁国际、Visa和万事达卡近日宣布启动合作，共同探索建立面向人工智能代理的“了解你的代理”（Know Your Agent，KYA）互操作框架，为未来由AI代理代表用户自主完成购物和支付建立统一的身份识别、验证和风险管理标准。 随着AI代理逐渐从提供购物建议发展到能够直接下单和付款，当付款不再由人亲自操作时，商家和支付机构究竟应该如何确认正在交易的AI代理是谁、是谁授权它行动，以及它是否仍然按照
Abliteration.ai 正在开展一项业务，即移除人工智能护栏
Abliteration.AI 正在让没有护栏的强大人工智能模型更容易被获取，并辩称让防御者拥有与恶意行为者相同的工具，最终可能改善网络安全。
人工智能代理可以在没有人类告诉他们的情况下修改自己
人工智能代理可以并且将会自己做的狡猾事情清单不断增加--例如窃取人们的凭证、逃往开放的互联网、通过偷偷摸摸的留言板进行通信以及黑客组织。据人工智能安全测试实验室Irregular称，代理还可以在没有指示的情况下替换自己的底层模型。这些活动仅发生在测试环境中，作为旨在研究代理自我修改的实验的一部分。这并没有发生在现实世界的部署中。然而，这项研究确实提出了一个问题，即企业如何能够而且应该管理这些代理人
从工具到AI队友：投资的下一个时代
投资工具功能强大，但很大程度上是被动响应式的。它们帮助投资者研究、分析并采取行动，却仍要由投资者来决定什么值得关注、何时关注。它们能智能地作出反应，却很少主动采取行动。 AI智能体可能会改变这种关系，使投资技术从投资者操作的工具，转变为更像与他们并肩工作的队友。 金融产品已经将相当多的工作自动化。投资组合可以再平衡，风险可以监控，交易也可以按预设规则执行。这些系统会采取行动，但通常局限于围绕特定事
六大跨国银行联合发出警告：AI代理购物或成主流 但信任危机仍待解决
随着人工智能代理逐渐开始代替用户完成购物、支付和下单等操作，全球金融行业对这一新兴模式表现出越来越复杂的态度。美国银行、第一资本银行等六家国际大型金融机构近日联合发布报告指出，AI代理驱动的“代理式购物”虽然拥有巨大潜力，但同时也带来了透明度、安全性、隐私保护和欺诈风险等一系列新问题。 所谓代理式购物，是指人工智能代理根据用户授权，自主浏览互联网、比较商品、选择支付方式，并直接完成购买流程。过去一
AI将改变所有交互方式，这一次轮到了3D
硅星人下载客户端 独家抢先看2026年09月22日 15:10:18 来自北京 作者｜周一笑微信｜smiletalker过去一年，Agent（能自己拆解任务、调用软件的 AI 系统）开始越来越频繁地进入专业软件。写代码只是最早的一站，Blender、CAD、游戏引擎也逐渐变成大模型可以直接操作的工具。GPT-6 Astra 最近展示的 3D 能力，又把这种变化推到了台前。对 3D 生成大模型公司来
AI代理的可靠性需要一种新的可观测性模型
AI代理的快速采用正在改变组织的运作架构。代理能够解释信息、做出决策、与企业系统交互，并以之前需要人类参与的自主程度执行任务。 这种自主性带来了显著的效率机会，但也引入了一个根本性挑战，即传统的[…]
网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？
过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
中国AI公司如何试图克隆美国AI模型
Anthropic在周四发布的一份报告中称，中国AI公司试图通过中转平台网络，将中国用户的真实查询请求传送给美国AI模型，以此来克隆这些模型。报告指称，包括月之暗面和 DeepSeek 在内的公司利用这些中间商，将其数百万用户的查询请求，包括位置信息和密码等敏感数据，转发给Claude模型。 Anthropic表示，中国公司利用这些中转站接入Claude，并通过监控其客户与Claude等产品之间的
高盛表示，AI代理面临的下一个重大问题是它们将如何赚钱
AI智能体已迅速成为硅谷最新的焦点。如今，更具挑战性的部分在于弄清楚它们将如何实现盈利。这种关注度的提升恰逢Meta近期推出了Muse，这款新一代AI软件旨在代表用户进行在线购物、预订旅行和完成各项任务，从而引发了新一轮的关注。高盛表示，该技术正在经历根本性变革。高盛研究部科技、媒体和电信行业业务负责人埃里克·谢里丹（Eric Sheridan）在周五发布于该行网站的一篇帖子中表示：“我认为我们正
人工智能模型用“超现实”的方言聊天，混合了诗意的语言和科技圈的行话
人工智能模型开始使用一种奇怪的新版英语进行交流，这种语言读起来像是詹姆斯·乔伊斯的《芬尼根的守灵夜》和科技界术语的混合体，一项新研究发现。 自主人工智能代理正在迅速创造新的方言，使它们能够用一种通常难以理解的语言进行对话，这可能会使人类更难监控它们的行为。 纽约前沿人工智能实验室 Emergence 的研究人员发现，在被要求在实验性“社会”中进行合作的几天之内，来自几家全球最大人工智能公司的模型就
特朗普的反偏见人工智能行政令不过是更多的偏见
2022年11月2日，我参加了在纽约市举办的一场谷歌人工智能活动。主题之一是负责任的人工智能。 当我听着高管们讲述他们如何让技术与人类价值观保持一致时，我意识到人工智能模型的易塑性是一把双刃剑。 模型不仅可以被调整以减少偏见，还可以被用来强加某种特定的观点。政府可能会要求进行干预，以审查不受欢迎的事实并传播宣传。我曾设想这是像中国这样的威权政权可能会采用的手段。 当然，在美国，宪法会阻止政府干涉私
AI数据隐私担忧升温，英伟达、Palantir等限制Anthropic模型使用，微软借机争夺企业客户
随着AI深入企业核心业务，数据安全和知识产权保护正成为企业选择AI模型时越来越重要的考量。 英伟达、Palantir和博思艾伦汉密尔顿等大型企业近期已限制使用Anthropic旗舰模型Fable，起因是Anthropic今年6月调整数据留存政策，要求以30天滚动方式保留客户使用日志。 这种担忧并非只针对Anthropic。OpenAI同样面临企业客户对其数据使用方式的质疑。据报道，微软正借此积极争
CNBC：微软在Anthropic和OpenAI负责人同意放缓开发速度几天后，发布了临时行为准则，对AI模型施加限制。
根据行为准则，微软的模型不得响应有关武器制造的请求，不得协助采购危险物质，不得鼓励不健康的饮食习惯，也不得生成暴力或色情内容。
Breakingviews - 评论：软件的人工智能交易从恐惧转向机遇
2025年，投资者奖励了那些防御机器人程序员的网络安全公司，并惩罚了像Salesforce这样受到威胁的公司（市值2150亿美元）。然而，这些昔日的输家正在证明他们能让聊天机器人发挥作用。按照某种衡量标准，他们似乎已经克服了怀疑。
研究发现：AI脱离用户控制的事件急剧增加
7月份，AI撒谎、无视指令并以有害方式追求目标的次数几乎翻了一番。 根据研究，AI脱离用户控制、撒谎、无视指令并以有害方式追求目标的事件创下新高，研究还表明欺骗和错位的严重性正在加剧。 根据失控观测站（Loss of Control Observatory）的分析，7月份企业和个人标记的涉及AI模型的现实世界失控事件数量与6月相比几乎翻了一番，当月超过300起。该观测站监测AI用户在社交媒体平台X
Raindrop公司获得了5000万美元的融资，用于解决人工智能（AI）系统在实际应用中出现的故障问题。
“现在的智能体运行时间长达数小时，调用数千种工具，并处理真实的资金、健康数据和客户，”Raindrop首席执行官Zubin Koticha表示。“当智能体出现故障时，它会大规模地、令人信服地执行错误操作，直到有人偶然发现。”Raindrop已完成由CRV领投的A轮融资。这家位于旧金山的公司在9月17日表示，其总融资额已达5000万美元。该公司未透露本轮融资的具体金额。 该公司在AI智能体上线后对其
欧盟人工智能法案正式落地
欧洲的里程碑式法律已从构想走向执行。为何重要：布鲁塞尔将很快知晓，它能否将全面的人工智能规则手册转化为企业能够实际遵循的法规，并成为全球人工智能标准的标杆。 推动因素：一个主要的执行截止日期已于8月2日到来。最值得注意的是，针对聊天机器人和人工智能生成内容的新透明度和披露要求已生效。 欧洲人工智能办公室尚未对受该法律约束的任何公司的不当行为采取行动，但它现在可以要求公司提供信息或请求访问模型。 他
AI深度伪造 购房者面临日益严重的诈骗威胁
众所周知，在通往拥有自己的房产的道路上，一直都充满著障碍。然而，由于人工智能（AI）的发展，一种老套的房地产骗局——交割资金诈骗——正在以一种新的方式出现。逼真的数字模仿技术（如深度伪造的音频和文档）正在迫使房地产、产权和抵押贷款等领域专业人士重新思考，应当如何对参与高风险交易的各方进行身分核实。根据联邦调查局（FBI）发布的《2025年互联网犯罪报告》（2025 Internet Crime R
辉达及Palantir等据报限制使用最先进AI模型
据The Information报道，辉达(Nvidia)、Palantir和博思艾伦(Booz Allen Hamilton)正要求AI供应商提供新的数据保证，并减少或停止使用OpenAI或Anthropic最先进的模型。 报道引述知情人士称，Palantir说服Anthropic同意保证旗下所有模型实行「不可撤销」的零数据保留(Zero Data Retention)。 报道称，对于较为敏感的
Agent“重塑”服务业！Muse重燃“恐慌”，金融股“躺枪”
Meta消费级AI代理Muse以压倒性下载量登顶苹果App Store，引发华尔街对AI颠覆金融服务业的新一轮担忧，银行与券商股遭遇数月来最大单日跌幅。 9月22日，美股金融板块重挫，标普500金融板块下跌约2%，拖累大盘基本收平。 券商嘉信理财与LPL Financial各跌逾6%。摩根大通下跌3.4%，创7月以来最大单日跌幅；富国银行跌3.9%，为5月以来最大跌幅；美国银行与花旗分别下跌3%