搜索结果
六大跨国银行联合发出警告：AI代理购物或成主流 但信任危机仍待解决
随着人工智能代理逐渐开始代替用户完成购物、支付和下单等操作，全球金融行业对这一新兴模式表现出越来越复杂的态度。美国银行、第一资本银行等六家国际大型金融机构近日联合发布报告指出，AI代理驱动的“代理式购物”虽然拥有巨大潜力，但同时也带来了透明度、安全性、隐私保护和欺诈风险等一系列新问题。 所谓代理式购物，是指人工智能代理根据用户授权，自主浏览互联网、比较商品、选择支付方式，并直接完成购买流程。过去一
代理安全是一个价值数十亿美元的挑战，有待聪明的初创公司来解决
在人工智能模型领域，安全往往被视为事后补救，这一点从智能体入侵组织和个人、以及智能体失控引发的其他安全事件日益增多中可见一斑。这也为企业提供了推出新解决方案的机会。网络安全投资者和加速器高管表示，这并不令人意外。梅林集团首席战略官马特·哈特曼（Matt Hartman）表示：“一方面，我们不应惊讶于能力日益增强的智能体正以富有创意且有时出人意料的方式实现其目标；另一方面，我们不能将有害行为视为不可
AI安全初创公司Upwind融资，估值达38亿美元
据知情人士透露，为人工智能和云应用提供网络安全的初创公司Upwind Security正在筹集新一轮融资，公司估值达38亿美元。 Bessemer Venture Partners领投这家总部位于旧金山的初创公司3亿美元的投资，部分现有投资者参与其中。由于信息未公开，知情人士要求匿名。Upwind和Bessemer的代表未回应置评请求。 Anthropic PBC、OpenAI和Meta Plat
7万亿美元的利益当前，人工智能安全恐怕永远只能让位于市场主导权之争
行业内部人士向Axios透露：实验室、企业及国家之间在人工智能（AI）领域的竞争，可能与推动AI安全发展的目标难以调和。 为何这很重要：尽管顶尖的AI公司提议加强自身的监督机制，并试图控制AI技术的发展速度，但批评者指出：为推动AI技术进步而提供的巨额资金激励，将始终成为阻碍安全发展的主要因素。 当前形势：虽然AI公司的首席执行官们向公众宣传他们的自我监管机制以及第三方评估机构的必要性（以确保AI
Jefferies称这只安全技术股票拥有被低估的优势
据杰富瑞（Jefferies）称，Crane NXT在安全技术方面的优势似乎被投资者“低估”了，现在是买入该股的好时机。 该投资公司首次覆盖了这只安全技术股票，并给予其“买入”评级。 同时，该机构给出的目标价为60美元，意味着较周一收盘价有31%的上涨空间。 分析师斯蒂芬·沃尔克曼（Stephen Volkmann）在周二给客户的报告中表示：“Crane NXT结合了拥有150年历史的货币纸币印刷
我们已投入数十亿资金保护软件。是时候保护执行环节了。
网络安全存在一个根本性的盲点。我们投入巨资保护软件，而其底层的处理器却盲目执行接收到的任何指令。这必须改变。 对于运行在汽车、医疗设备、工业控制器、网络设备和关键基础设施中的数十亿嵌入式系统，安全需要一个独立的层来监视处理器执行指令。
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
网络安全初创公司Island在新一轮融资中估值达64亿美元，AI攻击推动支出浪潮
为保护企业免受恶意人工智能程序的攻击，企业们纷纷投入大量资源来增强自身的安全防护能力，这进一步推动了新型安全工具的需求。 最新受益于这一趋势的公司是总部位于达拉斯的浏览器安全初创企业 Island。该公司于周四宣布完成了一轮4亿美元的融资，其估值达到了64亿美元。 Island 的首席执行官兼联合创始人迈克·费伊（Mike Fey）在接受 CNBC 专访时表示：“所有的传统安全控制措施都在失效，因
Breakingviews - 评论：AI前沿发展放缓可能让第二梯队获得优势
Anthropic首席执行官达里奥·阿莫代伊希望以护栏措施抵御对人类构成的威胁。 此类监管将把更多投资——今年达1万亿美元——从开发AI模型转向部署AI模型，从而支撑数据中心需求。英伟达、SK海力士等公司的挑战者将从中受益。
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
观点 | 我曾在OpenAI从事安全工作。解决方案并不难。
在@nytopinion.nytimes.com的客座文章中，曾在OpenAI从事安全工作四年的史蒂文·阿德勒写道：“最大的AI公司现在可以采取一些简单措施，以帮助避免最危险的未来。” 即使没有政府监管，私营公司也可以自行采取行动来应对AI安全问题。
下一个网络安全战场在处理器内部
网络安全存在一个位置问题。攻击者常常利用企业多年来用软件保护的系统中的漏洞，而这些系统核心的处理器却可能对任何异常情况几乎毫无察觉。 Verizon的2026年数据泄露调查报告发现，漏洞利用已成为最主要的初始访问途径，占[…]
美国需要灵活的技术治理方法
本周早些时候通过的一项加州新法律为“独立验证组织”创建了一个框架，这些组织可以在前沿AI模型发布之前对其进行测试，从而限制这些模型可能带来的任何风险。 这项新法律出台之际，AI监管的可行性正因不可能且过于昂贵而受到质疑。像这样的法律，即使相对仓促地通过，也几乎会立即过时。 前沿实验室构建的模型已经变得如此庞大，以至于需要其他AI模型来分析它们。METR对OpenAI-Hugging Face黑客事
领跑前沿领域，关键在于商业模式而非AI模型
里德的观点是达里奥·阿莫德伊和其他前沿人工智能实验室领导者可能非常关心人工智能的安全，但“步伐前沿”的呼吁也符合他们的经济利益。 随着Anthropic和OpenAI准备上市，并试图说服投资者，他们有一天可以大规模盈利，花费数十亿美元来发展最大和最有能力的模型可能不是最好的推销方式。 即使大型语言模型进展甚微，但它们已经做得足够多了，对这些公司和经济来说，它们将带来难以置信的利润。 现在，方程式是
Breakingviews - 评论：软件的人工智能交易从恐惧转向机遇
2025年，投资者奖励了那些防御机器人程序员的网络安全公司，并惩罚了像Salesforce这样受到威胁的公司（市值2150亿美元）。然而，这些昔日的输家正在证明他们能让聊天机器人发挥作用。按照某种衡量标准，他们似乎已经克服了怀疑。
红杉资本加码 Cymphony，AI 代理带来全新企业安全风险
随着 AI 代理以机器速度运行，并访问与人类员工相同的敏感企业数据和系统，企业正面临新的安全风险。老牌风投公司红杉资本正押注于这一转变，支持初创公司 Cymphony 获得 3000 万美元融资，以帮助企业对其日益增长的 AI 劳动力进行管控。 这笔融资包括由红杉和 SMBC Fin Atlas Beyond Fund 共同领投的 2500 万美元 A 轮融资，使这家总部位于纽约和特拉维夫的初创公
Wiz创始人支持以色列初创公司Guardio，估值11亿美元
以色列网络安全初创公司Guardio从包括云安全公司Wiz创始人Assaf Rappaport在内的投资者那里筹集了资金，该轮融资对公司的估值为11亿美元。 Guardio周四在一份声明中表示，该公司筹集了4000万美元，用于应对由人工智能驱动的互联网诈骗。现有投资者ION Crossover Partners、Union Tech Ventures、Vintage Investment Part
埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前
亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言
网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？
过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场
分析：AI优势正遭中共蚕食 美国需战略反制
今年，美国企业预计投入约7,000亿美元，用于建设数据中心、芯片和计算能力等人工智能实体基础设施。 每一美元投入，都得推动技术进步进而产生足够收益，然后为下一轮技术突破提供资金。 然而，这一模式却面临中共的开源权重模型（open-weight models）严重威胁。
数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging
Huskeys获Blackstone领投2700万美元A轮融资，打造网络边缘新安全层
网络安全行业多年来一直在应用程序、云基础设施和面向互联网的服务周围增加新的防护层。 但随着组织采用更多的云提供商、CDN、Web应用防火墙和网络技术，一个不同的问题是如何将这些系统统一管理。这一挑战如今正吸引投资者的关注。Huskeys已筹集2700万美元[…]
Harvey 完成 5.5 亿美元融资，估值达 156 亿美元并收购 Guardrails AI
Harvey 已完成一轮 5.5 亿美元的融资，估值达到 156 亿美元，略高于我们此前报道其在 8 月份寻求的条款。 该公司本周还收购了 AI 代理安全初创公司 Guardrails AI。 该轮融资于周三公布，由
马斯克：我早已为人工智能风险多次敲响警钟
人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全