1CCF

全球要闻
字号 ·· | 护眼

搜索结果

「AI代理的可靠性需要一种新的可观测性模型」共 38 条 · 第 1 页
cnbeta

六大跨国银行联合发出警告:AI代理购物或成主流 但信任危机仍待解决

随着人工智能代理逐渐开始代替用户完成购物、支付和下单等操作,全球金融行业对这一新兴模式表现出越来越复杂的态度。美国银行、第一资本银行等六家国际大型金融机构近日联合发布报告指出,AI代理驱动的“代理式购物”虽然拥有巨大潜力,但同时也带来了透明度、安全性、隐私保护和欺诈风险等一系列新问题。 所谓代理式购物,是指人工智能代理根据用户授权,自主浏览互联网、比较商品、选择支付方式,并直接完成购买流程。过去一

09/23
semafor

美国需要灵活的技术治理方法

本周早些时候通过的一项加州新法律为“独立验证组织”创建了一个框架,这些组织可以在前沿AI模型发布之前对其进行测试,从而限制这些模型可能带来的任何风险。 这项新法律出台之际,AI监管的可行性正因不可能且过于昂贵而受到质疑。像这样的法律,即使相对仓促地通过,也几乎会立即过时。 前沿实验室构建的模型已经变得如此庞大,以至于需要其他AI模型来分析它们。METR对OpenAI-Hugging Face黑客事

09/05
法国国际广播电台

AI :马克龙呼吁避免依赖美国或中国

22/09/2026 - 22:51 他表示:“这个由独立国家组成的联盟——即那些不愿沦为全球两大强权附庸的国家——必须联合起来,通过汇集各自的算力和投资能力,共同开发一种‘开源’的前沿模型(即所有人均可使用的尖端AI),并实现共享。”“我们绝不能依赖其中任何一方。”目前的状况是,最先进的AI系统均来自美国或中国——无论是所谓的开放模型(即“开源”或“开放权重”,意味着可免费下载和修改),还是封闭

09/23
财新

进入AGI时代:新一轮的AI革命

9月初,OpenAI发布新一代模型GPT-6 Astra,将其称为“世界上最智能、最对齐的模型”。这不是一次寻常的版本迭代。OpenAI总裁格雷格·布罗克曼(Greg Brockman)表示,Astra在网络安全、专业工作、软件工程和科学研究等领域实现了“代际跃升”,并暗示这可能是通用人工智能(Artificial General Intelligence)(AGI)时代到来的标志。硅谷的措辞历来

09/09
华尔街见闻

GPT-6 Astra真正的意义:将“AI叙事”从“需求争论”拉回“物理瓶颈”

一个模型的发布,正在改变市场争论的方向。“服务已知的AI需求,究竟需要多少基础设施?AI基建是否已经过度投资? 但据追风交易台消息,摩根士丹利9月7日发布的报告指出,GPT-6 Astra的重要性不应被简单理解为又一次规模扩张(Scaling)叙事的延续。这并不是又一次的模型升级。 Astra代表的是能力广度(breadth of capabilities)与互操作性的实质性跃升,推理能力、工程能

09/09
凤凰网科技

有望对标Databricks,OceanBase押注AI数据底座的万亿市场

AI落地的真正拐点,已经不在模型本身。当通用大模型足够强、足够便宜之后,真正卡脖子的,是自己的数据。散落在各处的交易记录、文档、图片、日志,以及那些还没被整理的向量,能不能被Agent真正用起来? 正是这一问,把数据层推到了台前。当数据库的使用主体从人变成了海量Agent,数据类型从结构化扩展到多模态,要求也从“存得下”变成了统一管理、实时检索、语义理解与安全合规。这些变化正在重写整个数据市场的边

09/18
华尔街见闻

新的叙事时刻:Astra之后的AI渗透率和Token总需求

在AI时代,打败你的,是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后,上面这句话就完全不准确了,或者说完全错了。现在,在AI时代,打败你的,不再是比你更会使用AI的人或公司,而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句,上面的“你”也可以是一个公司。 还记得么?上个月,Astra就曾经亮过相,那时候作为Op

09/05
cnbeta

蚂蚁国际携手Visa、万事达卡制定AI代理支付标准

蚂蚁国际、Visa和万事达卡近日宣布启动合作,共同探索建立面向人工智能代理的“了解你的代理”(Know Your Agent,KYA)互操作框架,为未来由AI代理代表用户自主完成购物和支付建立统一的身份识别、验证和风险管理标准。 随着AI代理逐渐从提供购物建议发展到能够直接下单和付款,当付款不再由人亲自操作时,商家和支付机构究竟应该如何确认正在交易的AI代理是谁、是谁授权它行动,以及它是否仍然按照

09/10
time

人工智能正处于转折点

在当前的人工智能发展竞赛中,我们的算力正在呈指数级爆发,速度也在呈指数级加快,但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题,创造出一种根本上安全且能保证在人类控制范围内的人工智能,否则这个问题将无法改善。 7月下旬,OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

09/09
semafor

领跑前沿领域,关键在于商业模式而非AI模型

里德的观点是达里奥·阿莫德伊和其他前沿人工智能实验室领导者可能非常关心人工智能的安全,但“步伐前沿”的呼吁也符合他们的经济利益。 随着Anthropic和OpenAI准备上市,并试图说服投资者,他们有一天可以大规模盈利,花费数十亿美元来发展最大和最有能力的模型可能不是最好的推销方式。 即使大型语言模型进展甚微,但它们已经做得足够多了,对这些公司和经济来说,它们将带来难以置信的利润。 现在,方程式是

09/17
华尔街见闻

高盛交易台主管:OpenAI的Astra模型“脱颖而出”,这正是“AI牛市一直在等的”

OpenAI发布新一代Astra模型,引发市场对AI能力跃升的广泛关注,也重新点燃了AI支出周期的投资叙事。 高盛Delta One交易台主管Rich Privorotsky在最新市场简报中表示,Astra看起来“举足轻重”——它确实甩开了同行,而这可能正是AI多头一直等待的那类能力突破。 软银隔夜涨超10%,作为OpenAI的重要投资者,其股价被视为OpenAI估值变化的重要映射;甲骨文也上涨约

09/05
财新

AI时代,数学为何要警惕“只会做题”

最近,数学可能要被AI“玩坏了”。难题解决得更快,为什么还值得担心?关键在于我们如何评价、组织和延续数学研究。 AI模型的能力很难用一句话概括,基准测试(benchmark)因此成为比较模型的常用工具。但成绩一旦与融资、声誉和研发投入挂钩,测试便不再只是被动记录能力,也开始引导能力向哪些方向发展。经济学家陈斌(Alex C当公开分数能够吸引投资,针对测试进行定向优化就可能有利可图,而分数对于广泛能

09/14
thenextweb

从工具到AI队友:投资的下一个时代

投资工具功能强大,但很大程度上是被动响应式的。它们帮助投资者研究、分析并采取行动,却仍要由投资者来决定什么值得关注、何时关注。它们能智能地作出反应,却很少主动采取行动。 AI智能体可能会改变这种关系,使投资技术从投资者操作的工具,转变为更像与他们并肩工作的队友。 金融产品已经将相当多的工作自动化。投资组合可以再平衡,风险可以监控,交易也可以按预设规则执行。这些系统会采取行动,但通常局限于围绕特定事

09/14
信报财经

辉达及Palantir等据报限制使用最先进AI模型

据The Information报道,辉达(Nvidia)、Palantir和博思艾伦(Booz Allen Hamilton)正要求AI供应商提供新的数据保证,并减少或停止使用OpenAI或Anthropic最先进的模型。 报道引述知情人士称,Palantir说服Anthropic同意保证旗下所有模型实行「不可撤销」的零数据保留(Zero Data Retention)。 报道称,对于较为敏感的

09/14 全文见 华尔街见闻
财新

【市场洞察】瑞银:中国AI模型性价比突出 中美差距缩窄至3到6个月

【财新数据专稿】“中国模型在成本优势上面展现出的全球竞争力。中国的模型无论是前期的训练研发阶段,还是后期的推理、使用阶段,展现出来的性价比或者绝对的成本都还是比国外的竞品是显著低的。”瑞银互联网分析师熊玮在瑞银近期举办的2026年A股研讨会上表示。熊玮对中国模型在全球市场获取更多份额保持乐观。 模型能力持续提升,中美差距缩窄至3至6个月过去两三个月间,国内多家领先模型厂商密集发布了新一代产品。其中

09/06
政治报

戈特海默反对对先进人工智能进行第三方审计

众议员乔什·戈特海默表示,使用第三方组织评估前沿人工智能模型安全性的提议还不够,他反而支持强制性的政府审查制度。这位新泽西州民主党人在周二的一份声明中说:“我们的网络安全、生物安全、关键基础设施和国家安全都处于危险之中,每一位人工智能开发者都应该在向公众发布其前沿模型之前,将其提交给美国政府进行限时审查。”使用第三方评估机构来审查人工智能模型的安全性是众议员杰伊·奥伯诺尔特(加州共和党人)和洛丽·

09/16
axios新闻网

AI模型正变得不可知

模型可能变得更安全,同时也变得更难监控。这场跷跷板的哪一边占上风,可能决定AI是安全扩展,还是毁掉我们所知的文明。 为什么这很重要:目前两种可能性都在全力推进,没有人知道谁负责确保正确的一方获胜。 现状:OpenAI周四发布了GPT-6 Astra,总裁格雷格·布罗克曼表示,它最终可能被视为人工通用智能(AGI)的开端。 Astra表现更好,但也更擅长避免监控,这意味着可能更难知道它在想什么或做什

09/04
axios新闻网

Axios专访:萨姆·奥尔特曼令人警醒的警钟

北卡罗来纳州切尔希尔——OpenAI首席执行官萨姆·奥尔特曼向Axios展示了即将推出的AI模型的力量与风险,令人大开眼界,其中包括他自己的Astra,预计随时可能发布。 “请相信我们,我们即将推出强大得多、多得多的模型,”奥尔特曼周三在G20创新峰会上接受Axios的玛丽亚·库里和我的采访时谨慎地说道。“下一代模型将让所有人清醒。 ……我认为,任何诚实理智的人看到正在发生的事情,都会感受到我们面

09/03
凤凰网科技

消息称Anthropic拟于IPO前推出新AI模型,应对OpenAI竞争压力

IT之家 9 月 20 日消息,据报道,三位消息人士透露,Anthropic 正考虑推出一款全新人工智能模型,以此应对 OpenAI 发布 GPT‑6 Astra 之后的强劲发展势头。此事发生在该公司筹备 IPO(首次公开募股)前夕;就在此前,其首席执行官还呼吁整个 AI 行业放缓技术迭代的脚步。 消息人士称,此番计划发布新模型,意在直面来自直接竞争对手的竞争压力。而在此之前,Anthropic

09/20
华尔街见闻

网络安全崛起:AI隐患叙事下,网安何以成为软件板块最强反转?

过去三周,AI 一面是模型能力继续狂奔,另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face,并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速,网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证,为什么在软件股整体承压的背景下,网络安全成为最确定的反转主线——AI 隐患对网安市场

09/06
中央通讯社

Google Cloud吁企业重建资料架构 因应AI代理需求

(中央社记者吴家豪台北17日电)生成式人工智慧(AI)迈入代理式时代,Google Cloud资料库客户工程总监柯尼格利欧(Anna Coniglio)今天表示,将AI代理强行植入传统资料平台,就像在手排车驾驶座硬塞进一个机器人,根本行不通;企业必须跳脱渐进式思维,重建资料架构,以因应主动式、全天候运作的AI代理需求。云端运算服务Google Cloud今天在台北举办Agentic Data Cl

09/17
凤凰网

中国的成功正迫使美国重新思考AI战略

《外交政策》杂志8月27日刊发了美国无党派智库史汀生中心战略远见中心研究员罗伯特·A·曼宁和朱莉娅·内赫的文章,题为《中国的成功正迫使美国重新思考AI战略》。中国AI企业月之暗面推出的开放权重模型Kimi K3,在能力上已接近美国前沿封闭模型,引发美国AI业界震动。文章认为,美国长期押注AGI、封闭模型和对华技术遏制,而中国则更重视开放模型、低成本部署和全球扩散。与此同时,AI失控及网络安全风险不

08/31
亚洲新闻台

“以混乱换取可靠性”:专家称,AI发展放缓可能意味着更严格的监管和更多测试

法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露,它们的人工智能代理出现了意外行为,逃出受控测试环境,并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示,尽管这些事件没有造成已报告的损害,但它们凸显了与人工智能发展相关的不断演变的风险,尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示,主要担忧在于,能力极强的

09/14
路透社

Breakingviews - 评论:如何让世界对人工智能更安全

来自Breakingviews - Breakingviews - 如何让世界对人工智能更安全 人工智能模型可能已经失控。管理风险需要国际监管机制。要实现这一目标,美国必须认识到危险并与中国达成协议。挑战在于在灾难发生之前完成所有这些。

09/07
上一页 第 1 页 下一页
1CCF | 全球资讯
正在加载…