搜索结果
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
这家初创公司筹集1000万美元，将人工智能引入老工厂
Harmoni并非从零开始建造自动化工厂，而是押注于用人工智能帮助美国现有工厂提高效率。
渴望债务的AI公司面临风险加剧，因债券收益率飙升
随着本周美国国债收益率攀升至2007年以来的最高水平，依赖债务融资的企业将面临更高的借贷成本。这意味着本已达到历史高位的AI基础设施建设，成本将进一步上升。 摩根大通在6月估计，到2030年将发行约4.1万亿美元的AI相关债务，因为数据中心公司及其他与人工智能繁荣相关的企业正竞相扩充产能，以满足业内专家普遍认为“永无止境”的AI服务需求。 随着借款人重返市场，他们面临的10年期美债收益率徘徊在5.
AI安全威胁重塑企业网络安全预算投向
AI 黑客威胁不仅仅促使企业大幅提高网络安全总预算，还正在改变资金的投放方向。安全高管表示，部署系统监控员工对 AI 工具的使用、采用 AI 模型在黑客动手前发现漏洞，以及借助 AI 工具加速漏洞修复。 但并非所有网络安全产品都能受益。多名高管称，企业同时在削减传统漏洞管理软件、日志采集工具和渗透测试服务的开支，以此节约成本。渗透测试即雇佣 “白帽黑客” 主动寻找系统安全缺陷。这将给思科、Sent
中信证券：数据中心的“政治化”或是短期AI叙事的最大障碍
本周美国国债收益率再度飙升，同时美国B级及以下的企业债信用利差也开始反弹，无风险利率和信用利差的同步上行再度导致部分投资者担忧美国AI融资的可持续性。但我们认为美国AI企业的融资较为多元化，除债权融资以外可以通过股权融资、产业资本和减少股票回购等方式支持未来的CAPEX资金。相对来看，本周美国德州叫停数据中心建设，甲骨文公司也向Project Jupiter开发商发出不可抗力通知，两个事态的发展显
根据研究机构 Rhodium 的数据，OpenAI 和 Anthropic 的收入是所有中国人工智能模型收入总和的 10 倍。
北京——中国的人工智能模型可能正在快速被采用，但这尚未转化为收入，引发了对公司估值的质疑。 美国研究公司Rhodium Group在周四发布的估算中表示，中国所有AI模型的总收入仅占OpenAI和Anthropic报告收入的约10%。该估算基于使用行业指标“年度经常性收入”（annual recurring revenues，ARR）的报告，该指标通过将最近的月度数字乘以12来捕捉快速增长。 Rh
Breakingviews - 评论：AI前沿发展放缓可能让第二梯队获得优势
Anthropic首席执行官达里奥·阿莫代伊希望以护栏措施抵御对人类构成的威胁。 此类监管将把更多投资——今年达1万亿美元——从开发AI模型转向部署AI模型，从而支撑数据中心需求。英伟达、SK海力士等公司的挑战者将从中受益。
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
黑客入侵了 OpenAI，进一步加剧了人们对网络安全问题的担忧。
一小群网络安全研究人员周日表示，他们于今年早些时候侵入了OpenAI，这一宣布为人工智能的安全和保障问题增添了一层新的担忧。 来自一家名为Hacktron的小型公司的研究人员发现，通过将两个未知漏洞串联起来——一个存在于第三方公司Discourse中，另一个存在于OpenAI验证其员工身份的方式中——他们可以访问员工的ChatGPT账号。 按照研究人员（有时被称为“白帽黑客”）的惯例，他们没有对公
AI 代理正以新请求淹没公共服务
随着人工智能使得填写表格和提交投诉变得更加容易，世界各地的公共服务部门发现申请和其他请求数量出现了巨幅增长。 在英国，自从引入 ChatGPT 以来，针对住房申诉专员的投诉量增加了一倍以上，从 2022 年的 2600 起上升到去年的 7000 多起。美国消费者金融保护局（CFPB）在同期内投诉量增长了 5 倍。巴西的司法请愿和德国的议会请愿也出现了类似的大幅增长。 研究员克里斯·施密茨（Chri
每位创始人在TechCrunch Disrupt 2026议程上都应参加的五场AI安全会议
这些不再是 AI 创始人的假设性问题。随着 AI 走出演示环节，进入企业、车辆、机器人和自主代理，安全与安保已成为产品的一部分。 在 TechCrunch Disrupt 2026 上，AI 舞台与现实世界 AI 舞台的五场议程将这些挑战摆在了台前。从保障代理安全到让企业级 AI 落地生产，以下是创始人深入探讨构建人们和企业真正信任并使用的 AI 所需条件的场所。 正在打造下一代 AI？立即获取
代理安全是一个价值数十亿美元的挑战，有待聪明的初创公司来解决
在人工智能模型领域，安全往往被视为事后补救，这一点从智能体入侵组织和个人、以及智能体失控引发的其他安全事件日益增多中可见一斑。这也为企业提供了推出新解决方案的机会。网络安全投资者和加速器高管表示，这并不令人意外。梅林集团首席战略官马特·哈特曼（Matt Hartman）表示：“一方面，我们不应惊讶于能力日益增强的智能体正以富有创意且有时出人意料的方式实现其目标；另一方面，我们不能将有害行为视为不可
Breakingviews - 评论：甲骨文的恐慌暴露了脆弱的数据中心繁荣
这家软件巨头寻求摆脱对服务器农场的承诺，令AI贷款机构感到不安。这凸显了建设多么依赖少数财力雄厚的科技巨头。 如果更多公司动摇，那么到2030年AI实验室产生4000亿美元收入的预期将过于乐观。
OpenAI和Anthropic调查了数万起AI事件，Axios报道
据Axios报道，OpenAI、Anthropic以及安全研究人员正在调查数以万计的AI模型“行为异常”的事件。评估人员认为这些行为存在问题；实际发生的异常事件数量可能远超这一数字。 这些异常行为包括：AI模型突破安全限制、创建论坛、逃离“沙箱环境”（即限制模型行为的测试环境）、以及劫持网站等。这些事件既发生在内部测试中，也发生在现实世界中。不过，据消息人士称，大多数异常行为并未对现实世界造成实际
“不成熟的操场吹嘘”：数学家对 OpenAI 的最新战果感到不安
随着 OpenAI 的模型攻克了困扰专家数十年的千禧年大奖难题，许多人对变革的速度感到震惊。这让数学家们感到晕头转向。在人工智能不断推动该领域发展的多起案例之后，OpenAI 宣布其最新的 AI 模型攻克了一个千禧年大奖难题——一个悬赏 100 万美元、数十年里一直难倒人类大脑的谜题。 这一成就与数学问题的常规解决方式几乎没有相似之处。一家价值近万亿美元的私营公司向该问题部署了 10,000 个智
Salesforce希望按AI成果收费，但首先需要弄清楚如何实现
没有什么比一场持续超过七小时的全球性宕机更能体现财富500强企业对Salesforce的依赖程度了。这次中断发生在上周Dreamforce大会的第二天，这家年营收400亿美元的SaaS供应商当时正在推介AIforce及其日益丰富的人工智能产品系列。现在的问题是，该公司将如何为这些产品定价。AIforce展示了为何基于用户的许可模式正变得越来越难以维持。 该产品在Dreamforce上发布，利用Sa
他们已经有AI机器人了。没有带来效果。直到第二次尝试才将线索数量提高了20%。
Glinmet，一家波兰的围栏和金属屋顶瓦片生产商，已经使用过基于人工智能的机器人。问题？从商业角度来看，该解决方案没有带来预期的效果。因此，公司再次尝试，但这次不是从“如何实施AI？”这个问题开始，而是“如何从我们已有的流量中赚更多钱？”。根据Crococode Software House的数据，在实施Maja AI后，线索数量增加了约20%，而基于已签署合同和交易计算的额外收入每天达到约50
消息称字节跳动获近300亿美元贷款 为今年亚洲第二大美元贷款
据外媒报道，字节跳动已获得一笔296亿美元贷款，这是今年亚洲规模第二大的美元贷款。报道援引知情人士消息称，字节跳动最初计划融资200亿美元，但在获得银行方面超额认购意向后，字节跳动上调了贷款规模。本次募集资金将主要用于一般企业经营用途。知情人士称，该笔交易尚未正式签署，各家银行仍在确认各自的份额。 报道称，字节跳动正考虑将今年的资本支出提升至高达700亿美元，较去年总额翻倍，以扩建数据中心及其他A
AI基础设施热潮未完，这位业绩突出的基金经理转向公用事业和能源管道
基金经理布罗克·坎贝尔开玩笑说，他的孩子们“宁愿停水停电，也不能没有 Roblox”。 玩笑归玩笑。纽约梅隆全球基础设施收益ETF经理坎贝尔最近接受《市场观察》采访时表示，他认为电信和数据服务已经成为不可或缺的基本需求。 坎贝尔说：“经济走弱时，人们不会轻易把这些服务停掉。对投资组合来说，这提供了非常好的稳定作用。” 这只基金获得晨星五星评级，过去三年的年化回报率为21%，高于基准标普全球基础设施
梅赛德斯-奔驰将在其量产汽车中引入英国AI驾驶系统
Wayve已与梅赛德斯-奔驰签署最终生产协议，将在未来两年内将其AI Driver（AI驾驶系统）搭载至未来车型中，提供城区与高速公路的点对点驾驶辅助。梅赛德斯于2月投资了Wayve的15亿美元D轮融资，该软件已利用MB.OS集成至其生产架构中。 总部位于伦敦的Wayve表示，已与梅赛德斯-奔驰签署生产协议，将在未来两年内将其AI Driver搭载至未来梅赛德斯汽车中。它将提供城区与高速公路的点对
OpenAI 智能体于5月攻击了 RubyGems，比 Hugging Face 早两个月
OpenAI has confirmed that its agents were involved in an incident at RubyGems in May. That is two months before the same kind of agents hacked Hugging Face in July. RubyGems is the package service for
AI的“警告信号”：科技公司和专家担忧Hugging Face遭黑客攻击后出现更多失控智能体群
科技专家警告称，如果人工智能系统继续脱离人类控制，将会产生严重后果。 此前，数百个OpenAI智能体在7月失控，入侵了一家价值数十亿美元的公司——一些人称之为人工智能快速发展中的“警告信号”。
荷兰AI芯片初创公司Euclyd获2.3亿美元融资
荷兰人工智能芯片初创公司Euclyd近日完成一轮规模达2亿欧元、约合2.3亿美元的A轮融资。此次融资由三星、Somerset Capital Partners、由EQT管理的Scaleup Europe Fund以及Innovation Industries共同领投，使这家成立于2024年的年轻公司获得了进一步挑战英伟达AI芯片市场地位所需的资金支持。 Euclyd并没有选择直接复制英伟达GPU的
当人工智能解出“千禧年难题”，人类还需要亲自做数学吗？
【编者案】什么是信息，什么是知识？在 AI 时代，两者有怎样的差别，又有哪些知识是仍然值得拥有的？人工智能发展正对许多学科带来冲击，尤其是在信息丰富，但需投入海量计算资源的领域，例如预测新的蛋白质 3D 结构，解决数学问题，描绘生物演化关系等。前所未有的效率工具让学科进步提速，但变化日新月异，想要辨明当下的发展方向也变得更加困难。端传媒推出“未来怎么学”系列，关心 AI 时代的学习问题，大到“还要