搜索结果
六大跨国银行联合发出警告：AI代理购物或成主流 但信任危机仍待解决
随着人工智能代理逐渐开始代替用户完成购物、支付和下单等操作，全球金融行业对这一新兴模式表现出越来越复杂的态度。美国银行、第一资本银行等六家国际大型金融机构近日联合发布报告指出，AI代理驱动的“代理式购物”虽然拥有巨大潜力，但同时也带来了透明度、安全性、隐私保护和欺诈风险等一系列新问题。 所谓代理式购物，是指人工智能代理根据用户授权，自主浏览互联网、比较商品、选择支付方式，并直接完成购买流程。过去一
代理安全是一个价值数十亿美元的挑战，有待聪明的初创公司来解决
在人工智能模型领域，安全往往被视为事后补救，这一点从智能体入侵组织和个人、以及智能体失控引发的其他安全事件日益增多中可见一斑。这也为企业提供了推出新解决方案的机会。网络安全投资者和加速器高管表示，这并不令人意外。梅林集团首席战略官马特·哈特曼（Matt Hartman）表示：“一方面，我们不应惊讶于能力日益增强的智能体正以富有创意且有时出人意料的方式实现其目标；另一方面，我们不能将有害行为视为不可
AI安全初创公司Upwind融资，估值达38亿美元
据知情人士透露，为人工智能和云应用提供网络安全的初创公司Upwind Security正在筹集新一轮融资，公司估值达38亿美元。 Bessemer Venture Partners领投这家总部位于旧金山的初创公司3亿美元的投资，部分现有投资者参与其中。由于信息未公开，知情人士要求匿名。Upwind和Bessemer的代表未回应置评请求。 Anthropic PBC、OpenAI和Meta Plat
7万亿美元的利益当前，人工智能安全恐怕永远只能让位于市场主导权之争
行业内部人士向Axios透露：实验室、企业及国家之间在人工智能（AI）领域的竞争，可能与推动AI安全发展的目标难以调和。 为何这很重要：尽管顶尖的AI公司提议加强自身的监督机制，并试图控制AI技术的发展速度，但批评者指出：为推动AI技术进步而提供的巨额资金激励，将始终成为阻碍安全发展的主要因素。 当前形势：虽然AI公司的首席执行官们向公众宣传他们的自我监管机制以及第三方评估机构的必要性（以确保AI
前Palantir工程师融资6亿美元，挑战美国健康保险公司
“我们并不是为了再创办一家健康保险公司，”Angle Health 的联合创始人兼首席执行官王泰（Ty Wang）表示。他在接受《华尔街日报》采访时称，其目标是阻止“我们医疗体系内部这种成本的死亡螺旋”。他的公司刚刚以 27 亿美元的估值筹集了 6 亿美元资金。此轮融资由 Vitruvian Partners 领头。这家成长型投资机构总部设在伦敦。 这个时机并非偶然。美国雇主正面临二十年来健康保险
英伟达CEO黄仁勋称网络安全将成AI下一个重大市场
英伟达联合创始人兼首席执行官黄仁勋表示，网络安全将成为人工智能（AI）的下一个重大市场，AI技术的发展势将颠覆这个以保护计算机系统为主要任务的行业。 “网络安全很可能会成为AI下一个主要应用场景，”黄仁勋周四在旧金山举行的高盛科技会议上对与会者表示。 黄仁勋表示，AI模型实现计算机编程自动化，正给网络安全行业带来冲击，因为代码遭利用的速度越来越快，修复也须随之加快。 “还有什么比制造问题更能创造需
Jefferies称这只安全技术股票拥有被低估的优势
据杰富瑞（Jefferies）称，Crane NXT在安全技术方面的优势似乎被投资者“低估”了，现在是买入该股的好时机。 该投资公司首次覆盖了这只安全技术股票，并给予其“买入”评级。 同时，该机构给出的目标价为60美元，意味着较周一收盘价有31%的上涨空间。 分析师斯蒂芬·沃尔克曼（Stephen Volkmann）在周二给客户的报告中表示：“Crane NXT结合了拥有150年历史的货币纸币印刷
我们已投入数十亿资金保护软件。是时候保护执行环节了。
网络安全存在一个根本性的盲点。我们投入巨资保护软件，而其底层的处理器却盲目执行接收到的任何指令。这必须改变。 对于运行在汽车、医疗设备、工业控制器、网络设备和关键基础设施中的数十亿嵌入式系统，安全需要一个独立的层来监视处理器执行指令。
英伟达推出新系统为AI代理设置护栏
英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博
AI危机丨辉达推AI安全系统 阻智能体违规
辉达推AI安全系统。(路透资料图片) 多名重量级科技领袖警告人工智能(AI)威胁人类生存之际，辉达(Nvidia)以新的安全架构回应AI行业风险。 辉达发布名为「Open Agent Safety Platform」的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于辉达硬件之上，即时管控AI代理的存取权限，并在其违规时将其关闭。 辉达表示，该系统能够在
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
网络安全初创公司Island在新一轮融资中估值达64亿美元，AI攻击推动支出浪潮
为保护企业免受恶意人工智能程序的攻击，企业们纷纷投入大量资源来增强自身的安全防护能力，这进一步推动了新型安全工具的需求。 最新受益于这一趋势的公司是总部位于达拉斯的浏览器安全初创企业 Island。该公司于周四宣布完成了一轮4亿美元的融资，其估值达到了64亿美元。 Island 的首席执行官兼联合创始人迈克·费伊（Mike Fey）在接受 CNBC 专访时表示：“所有的传统安全控制措施都在失效，因
AMD拟收购李飞飞创办的AI初创公司 交易金额82亿美元
芯片制造商AMD同意以82亿美元收购World Labs，从而将这家由人工智能领域先驱、研究人员李飞飞创立的初创公司收入麾下。两家公司周一在声明中表示，这项全股票交易预计将在年底前完成，仍需获得监管部门批准。 AMD是英伟达在AI芯片市场的主要挑战者。通过此次收购，AMD将获得一支由顶尖研究人员组成的团队及其模型，并进一步了解人工智能领域的发展方向，这将有助于公司规划未来的硬件产品。AMD首席执行
Breakingviews - 评论：AI前沿发展放缓可能让第二梯队获得优势
Anthropic首席执行官达里奥·阿莫代伊希望以护栏措施抵御对人类构成的威胁。 此类监管将把更多投资——今年达1万亿美元——从开发AI模型转向部署AI模型，从而支撑数据中心需求。英伟达、SK海力士等公司的挑战者将从中受益。
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
观点 | 我曾在OpenAI从事安全工作。解决方案并不难。
在@nytopinion.nytimes.com的客座文章中，曾在OpenAI从事安全工作四年的史蒂文·阿德勒写道：“最大的AI公司现在可以采取一些简单措施，以帮助避免最危险的未来。” 即使没有政府监管，私营公司也可以自行采取行动来应对AI安全问题。
下一个网络安全战场在处理器内部
网络安全存在一个位置问题。攻击者常常利用企业多年来用软件保护的系统中的漏洞，而这些系统核心的处理器却可能对任何异常情况几乎毫无察觉。 Verizon的2026年数据泄露调查报告发现，漏洞利用已成为最主要的初始访问途径，占[…]
美国需要灵活的技术治理方法
本周早些时候通过的一项加州新法律为“独立验证组织”创建了一个框架，这些组织可以在前沿AI模型发布之前对其进行测试，从而限制这些模型可能带来的任何风险。 这项新法律出台之际，AI监管的可行性正因不可能且过于昂贵而受到质疑。像这样的法律，即使相对仓促地通过，也几乎会立即过时。 前沿实验室构建的模型已经变得如此庞大，以至于需要其他AI模型来分析它们。METR对OpenAI-Hugging Face黑客事
企业主导制定AI安全标准，安全事件激增
前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A
领跑前沿领域，关键在于商业模式而非AI模型
里德的观点是达里奥·阿莫德伊和其他前沿人工智能实验室领导者可能非常关心人工智能的安全，但“步伐前沿”的呼吁也符合他们的经济利益。 随着Anthropic和OpenAI准备上市，并试图说服投资者，他们有一天可以大规模盈利，花费数十亿美元来发展最大和最有能力的模型可能不是最好的推销方式。 即使大型语言模型进展甚微，但它们已经做得足够多了，对这些公司和经济来说，它们将带来难以置信的利润。 现在，方程式是
Breakingviews - 评论：软件的人工智能交易从恐惧转向机遇
2025年，投资者奖励了那些防御机器人程序员的网络安全公司，并惩罚了像Salesforce这样受到威胁的公司（市值2150亿美元）。然而，这些昔日的输家正在证明他们能让聊天机器人发挥作用。按照某种衡量标准，他们似乎已经克服了怀疑。
Anthropic得了美国病
美国Anthropic公司首席执行官达里奥·阿莫代伊曾表示，如果强大的人工智能沿着正确的方向发展，世界会“美得令人惊叹”。 绝大多数疾病会被治愈，人类寿命可以翻倍，贫困将消失……甚至许多见证这一切的人“会感动落泪”。 为支撑这一愿景，An在国际主流榜单上，该公司研发的Claude系列模型目前包揽前三名；应用方面，今年5-7月的数据显示，39%全球开发者、47%美国开发者都在工作中使用其旗下最核心的
亚马逊首次公开回应AI安全争论：安全与发展并非二选一
在AI安全争论日益升温之际，模型经严格测试、确保安全后方可发布。亚马逊并未跟进呼吁行业发展放缓。 据媒体月17日报道，就硅谷持续升温的AI安全争论，我们不认为这是在发展与安全之间二选一。 模型应在准备就绪、可以安全使用时发布，而这需要严格的测试和强有力的安全保障。”“我们相信，整个行业将与政府合作，找到合适的保护措施。”该发言人指出，AI发展若不能由行业共同推进，就会存在风险。 此前，亚马逊一直未
红杉资本加码 Cymphony，AI 代理带来全新企业安全风险
随着 AI 代理以机器速度运行，并访问与人类员工相同的敏感企业数据和系统，企业正面临新的安全风险。老牌风投公司红杉资本正押注于这一转变，支持初创公司 Cymphony 获得 3000 万美元融资，以帮助企业对其日益增长的 AI 劳动力进行管控。 这笔融资包括由红杉和 SMBC Fin Atlas Beyond Fund 共同领投的 2500 万美元 A 轮融资，使这家总部位于纽约和特拉维夫的初创公