字号 ·· | 护眼
华尔街见闻

“网红芯片分析师”P Equity访谈:算力缺口、存储周期、隐形瓶颈、铜退光进以及“10年需求能见度的弥天大谎”

在市场沉浸于AI超大型云厂商无休止资本支出预期的狂热中,资深分析师一针见血地指出:长达十年的需求能见度不过是“弥天大谎”,而真正扼住AI咽喉的,早已不是单纯的GPU数量,而是昂贵的存储账单、落后的电网以及被忽视的ABF载板环节。

9月26日,在最新一期的Logan Jastremski播客节目中,长期跟踪AI基础设施建设的匿名分析师、P Equity Research背后的操刀人Mr. P作为嘉宾出席。当前,以大模型为核心的AI战局正从模型参数比拼延伸至底层基础设施的终极角力,超大型云厂商(Hyperscaler)每年数以万亿计的资本支出去向,成为全球投资者最关注的焦点。在这场超过一小时的深度对谈中,Mr. P基于详实的数据与产业链调研,对AI算力缺口、存储大周期、光电之争以及地缘博弈等核心议题给出了冷思考与去魅化解读。

“十年需求能见度是谎言”,存储仍难逃繁荣与萧条的周期宿命

过去一段时间,市场笃信AI带来的硬件投资将是一场永不枯竭的超级周期,甚至有声音称云厂商的订单能见度长达十年。对此,Mr. P给出了极为克制的判断。

“如果一个超大型云厂商告诉你他们有10年的需求能见度,他们只是在忽悠你。他们根本无法预测2年以后的情况。”Mr. P直言,“我相信存储是周期性的,并且它将保持周期性,这主要是由支出的性质决定的。人们认为超大型云厂商的支出是可持续的,它可以无限量地继续增长,但这只是一个假设。我认为支出总有一天会放缓。”

尽管不相信“无限支出”,但短期内AI对存储的吸金能力依然令人咋舌。随着数据中心从主要关注训练转向更吃内存的推理阶段,存储(包括HBM、DRAM和NAND)正在吞噬巨量资金。

“明年超大型云厂商的资本支出预计在1.1万亿到1.2万亿美元之间,而仅仅是存储可能就会占据其中的50%到60%,大概是5000亿到7000亿美元。瑞银(UBS)甚至估计明年单在存储上的花费就将达到9000亿美元,这简直比今年所有超大型云厂商的资本支出总和还要多。”

为了平抑周期波动,存储制造商正疯狂推进长期协议(LTA)。Mr. P透露,三星已开始收到长达10年的合同要求。然而,一位曾在三星和AMD任职的行业专家向他警告,LTA可能被过度炒作了:“如果需求暴跌,为了不彻底得罪客户,这些长期合同有可能会在闭门状态下被双方默默取消,且不附带任何违约金。如果你强迫客户吞下500亿美元他们不再需要的产品,他们只会把内存堆在仓库里,接下来的几年你的收入将真正面临断崖式下跌。”

算力缺口依旧,但“隐形瓶颈”正向电力与载板转移

目前,市场对于“算力是否受限”存在巨大分歧。微软CEO纳德拉曾暗示芯片足够,只是没有“温暖的机架”来插这些芯片;而谷歌和亚马逊在财报中则明确表示自己受制于算力短缺。

Mr. P通过市场价格数据证实了算力的紧缺现状:“四五年前的老旧芯片现在的租金定价比以前还高,像H100现在的二手价格依然能卖到2.5万美元,B系列GPU每小时的租金已经从5美元涨到了7到8美元。芯片的使用寿命正在被大幅延长,有的甚至达到了10年。”

然而,纯粹的GPU裸片数量可能并非核心卡点。一位AMD专家向Mr. P证实,就原始芯片而言供应是充足的,真正的瓶颈在于数据中心的电力、高级封装(Advanced Packaging)和存储。

从BOM(物料清单)的拆解来看,真正的短缺环节正在浮出水面。Mr. P指出:“在Vera Rubin(英伟达新一代架构)的物料清单中,看到出现三位数价格涨幅的组件是ABF载板、PCB和存储。ABF载板的产能非常紧张,供应短缺很可能会持续到2028年甚至2030年以后。戴尔、惠普、英伟达和博通在近期的财报中,也一致将DRAM、NAND、ABF载板和晶圆列为产能约束因素。”

在能源端,建设新型算力中心所需的燃气轮机面临着极度漫长的交付期。“三菱、西门子、GE Vernova的积压订单已经排到了2030年以后。如果你今天订购一台燃气轮机,你可能要到2030年才能拿到货。”

铜退光进:光是终局,但铜仍将被“强行续命”

在数据中心网络连接领域,铜缆与光通信的路线之争愈演愈烈。虽然市场普遍期待共封装光学(CPO)迅速普及,但Mr. P认为这并非一蹴而就。

“没有任何东西的传播速度能超过光速,因此光学最终肯定会赢,速度才是王道。”但他同时强调,在2027年之前,铜和光学将长期共存,云厂商正在尽可能延长铜的生命周期。

“因为存储实在是太贵了,超大型云厂商必须要在其他地方省钱。CPO不仅非常昂贵,而且目前仍存在良率和散热问题。你可能会在2027年先看到近封装光学(NPO)的使用,然后在2028或2029年看到CPO产能爬坡,但其渗透率将保持在较低水平。CPO真正占据主导地位,可能要等到2030年以后。”

针对美国部分声音呼吁前沿模型应因安全问题而减缓研发步伐,Mr. P将其斥为“毫无商业逻辑”的行为,“如果你出于安全考虑想要减速,这只会把市场份额拱手让人。”

以下为对谈全文,由AI翻译:

Logan Jastremski:太棒了。P Equity Research,非常感谢你加入我的节目。很高兴能邀请到你。我一直非常喜欢你在 Twitter 和 Substack 上发布的内容。就像我们刚才在录音前聊到的,恭喜你在 Substack 上的排名继续攀升。你目前发布的内容令人印象深刻,我很期待我们接下来的交流。 Mr. P:以及你在市场方面看到的一切。是的,谢谢你。我很兴奋能和你讨论算力(Compute)和 AI。在 Substack 和 X(推特)上受到关注感觉很棒,很高兴能和你交流。你总是很活跃。感觉你 24 小时全天候在线,我很欣赏这一点。 Logan Jastremski: 是的,我经常在线。不过我得说,我也经常使用“定时发送推文”按钮来规划我的推文。也许这就是获取超额收益(Alpha)的秘诀。 Mr. P: 哈哈,是的,这就是 Alpha。使用定时推文。 Logan Jastremski:太赞了。我很想了解一下你是如何开始深入研究算力领域的?因为你显然非常积极地发布你的研究报告,而且我认为你在投资者社区中,尤其是在这些不同数据中心的建设方面,获得了很大的影响力。所以,只要你愿意分享,我很想了解一下你的背景,或者你是如何进入股票研究领域的。 Mr. P: 好的。我大概是在今年 5 月初开始发推文的,那时我大概只有 30 个粉丝。所以我当时是个小透明。我注册这个账号有一阵子了,但一直没怎么用。后来我想把它用起来,就开始发推文,并在 Substack 上发了很多文章。一开始,我经常写一些关于日本、中国台湾和韩国的利基(Niche)公司的文章。反响还不错。然后我开始在 X 上获得更多认可,所以我就发得越来越多了。 Mr. P: 大约在 7 月份左右,我真正开始改变我发帖的方式。我试图成为一个只分享大量信息、保持中立观点,并让人们自己决定如何解读这些信息的人。我一直坚持这么做,从那以后我的账号就真正起飞了。但我完全没有任何技术背景。我所有的知识都是自学的。我没有工程学位。我拥有会计学的学士和硕士学位,曾在公共会计领域工作过。这就是我的基本经历。 Logan Jastremski:我不是工程师。所以如果有人问我类似“这个和那个有什么区别”,我可能回答不上来,我懂的没那么多。不过这很好。我通常发现,在自己领域表现卓越的人往往都是自学成才的。无论如何,在深入研究 AI 之前,我曾在加密货币市场花了很多时间。在那之前,我在特斯拉工作。一位好朋友曾告诉我,你没有义务必须成为昨天的自己,你可以自学新技能。所以,只要你不断学习,我觉得你就会一直处于前沿。 Mr. P: 是的,完全同意。我认为这也是我喜欢发这么多帖子的原因之一:尽可能多地免费学习。因为你能学到的东西是没有限制的。所以分享信息永远是件好事。 Logan Jastremski: 100%赞同。也许我们可以从这里开始聊。显然,在 AI 数据中心领域发生了很多事情。很大程度上,我觉得自从 Opus 4.5(约 2025 年末)发布以来,这个领域就开始腾飞了。从那时起,对于普通人来说,我们已经从 Oauth 和订阅模式,更多地转向了基于 API 的模型。这真正引发了这场收入的爆炸性增长,也许这种起飞甚至在那之前就开始了。作为副产品,你看到很多所谓的超大规模云厂商每年在资本支出(Capex)上投入数万亿美元。我知道你一直在深入研究物料清单(BOM),以及这些资本支出到底流向了哪里。所以我想让你从宏观层面谈谈你一直在追踪什么,以及你对当今市场现状的看法。 Mr. P: 谈到超大规模云厂商,我认为有四个领域很重要:逻辑芯片(Logic)、存储(Memory)、电力(Power)和网络(Networking)。现在大量的资金将花在逻辑芯片上,即 GPU 和 ASIC。而存储预计将占明年云厂商资本支出的 50% 到 60%。作为参考,如果预期的云厂商资本支出是 1.1 或 1.2 万亿美元,那么仅存储一项的投入就将达到 5000 到 7000 亿美元。实际数字可能会更高,但这其中包含了多种产品的混合:有 HBM、DRAM、大宗商品 DRAM,还有 NAND 闪存。 Mr. P: 但看看算力方面,他们在采购 ASIC 和 GPU 上花了很多钱。我们都知道亚马逊和谷歌正在尽最大努力增加他们定制芯片(ASIC)的产量,以摆脱对英伟达的依赖。我认为这就引出了一个问题:算力是否仍然受限?因为很多人说,我们有足够的算力,但没有足够的电力。有些人说我们有足够的电力——好吧,我还没听过谁说电力是足够的。但人们会说我们在其他方面不缺,只缺算力,算力受限。这是各个 AI 实验室的说法。 Mr. P: 所以我想谈两个观点。我曾和一位来自 AMD 的人聊过,做了一次专家访谈。但在提他之前,这里有两个主流观点。第一种观点认为,我们有足够的算力,但没有足够的电力来插电和运行这些芯片。这个讨论源于萨提亚·纳德拉(Satya Nadella,微软CEO)在一个播客上的讲话。我不记得是和谁做的播客了,可能是 SemiAnalysis,也可能是其他人。但他基本上是说,我们没有现成的“热机架”(插电即用的机柜)来部署这些芯片。 Mr. P: 第二种观点是,AI 实验室和供应商表示算力需求巨大,我们正处于算力受限的状态。如果你听过谷歌和亚马逊的财报电话会议,他们提到自己的算力受限,如果算力不受限,他们的云业务收入占比还会比现在报告的更高。与此同时,里昂证券(CLSA)今天发布的研究报告称,ASIC 和 GPU 的供需缺口高达 73%,他们预计这种短缺将持续到 2030 年。所以,如果你看看算力用户的评论,他们会说自己缺乏算力。租赁价格也证明了这一点,因为四到五年机龄的旧芯片的租赁价格比以前还要高,而这些本该是完全折旧或被淘汰的芯片。(注:你懂的,一年前迈克尔·伯里(Michael Burry)曾引发过一场关于折旧的巨大争论,而现在你开始看到这些芯片的使用寿命超过了五年,甚至开始接近十年。) Logan Jastremski:是的,完全没错。你开始看到这些芯片的使用寿命超过五年,甚至接近十年。我想最近是 Nebius 发布了一些数据——如果我错了或者你有更好的数据请纠正我——他们正在使用长达 8 或 9 年的芯片,这本质上延长了像 H100 这种芯片的使用寿命。 Mr. P: 我觉得二手的 H100 现在的售价还在 25,000 美元左右,这相当惊人。是的,我相信英伟达的 Volta 架构芯片也还在被使用,那几乎是 10 年前的产品了。但没错,这些芯片的使用超出了它们自然的或预期的使用寿命。这也很有趣,因为大概一两个月前有一条评论提到,一家小型初创公司试图获取一小批芯片,但根本拿不到。一旦他们拿到了,他们团队里就有人买了个蛋糕开始庆祝,因为现在能搞到算力就是这么重要的一件事。 Logan Jastremski :是的,我们甚至从我们投资的几家投资组合公司那里听到了同样的情况。他们试图做很多有趣的事情,但如果没有算力资源,你就真的倒大霉了(SOL)。所以,正如你所说,现在大家似乎都在为了获取算力而“哭爹喊娘”。甚至连埃隆·马斯克在建设 Tera Fab 时也说,没有足够的算力来同时满足机器人、他们想造的汽车,以及最终的太空数据中心的需求。所以,从宏观来看,我们似乎确实受到了算力的限制。 Mr. P: 但是,针对你的观点,这究竟是能源方面受限,还是物理计算芯片本身受限呢?我认为能源是一个大问题。我想说,现在的问题是有太多的数据中心建设项目被延期了。我们不知道确切有多少数据中心被推迟。SemiAnalysis 说这不是个大问题,但根据我读到的所有新闻,似乎数据中心的延期相当严重。在数据中心建设方面也存在很多社会和政治层面的抵制。所以我确实认为电力是一个大问题。我认为电力绝对是目前最糟糕的瓶颈之一。我稍后会详细谈谈这个。但回到我刚才提到的那位 AMD 专家的话,他说,就原始芯片、就单纯的算力而言,他认为我们是足够的;瓶颈在于其他领域,比如数据中心的电力、先进封装,以及重中之重——存储。 Mr. P: 所以我认为,关于 GPU,你会看到很多关于我们是否拥有足够数量的争论。但租赁价格表明我们目前的算力是不够的。 Logan Jastremski: 是的,我想我今天早上看到了,或者可能是你发的帖子。提到 B200 或 B300 的 GPU 每小时租赁价格已经从 5 美元涨到了 7 或 8 美元。 Mr. P: 是的,太疯狂了。价格一直在上涨。 Logan Jastremski: 那么,也许我们可以更深入地探讨一下存储(Memory)方面。这是我花了一些时间研究的领域,也是我和 Bubble Boy 详细聊过的话题。特别是随着这些数据中心在很大程度上从主要关注“训练”转向“推理”,而推理更受限于存储带宽(Memory-bound)。一方面是模型的权重变得越来越大,另一方面是上下文窗口通常也变得越来越长。正如你指出的,新一代云厂商(Neo clouds)乃至整个行业对存储的需求都在大幅飙升。关于“存储占资本支出的 60%”这个惊人的数据,你有更详细的拆解吗?因为每年有数万亿美元的资金投入到基础设施建设中,这确实非常疯狂。 Mr. P: 是的。实际上,很难准确判断到底有多少资本支出花在了存储上。让我为你梳理一下。首先,每个人的预测数字都不一样,取决于你问谁。我不认为有任何人确切知道存储上到底花了多少钱。几个月前,里昂证券(CLSA)研究报告称,2027 年存储占资本支出的比例将达到 48%。SemiAnalysis 说是 36%。Citrini 预测 2028 年将达到 60%(我不知道他们 2027 年的预测是多少)。摩根大通(JP Morgan)预测 2027 年是 49%,2028 年是 60%。瑞银(UBS)预测 2027 年是 63%,后来他们又说是 73%。你明白我的意思了吧?我们无法确定谁是对的。而且我认为我们永远也得不到一个准确的数字,因为这里面混合了太多东西,有大量的 HBM、NAND 闪存,还有普通的大宗 DRAM 在被使用。所以根据你问的人不同,你会得到一个非常宽泛的范围。但总的来说,没有人会反驳“存储非常昂贵”这一点,这将是一笔巨大的开销。瑞银估计,明年仅在存储上的花费就将达到 9000 亿美元。为了让你有个概念,这基本上比今年所有超大规模云厂商的资本支出总和还要多。这很疯狂,对吧? Logan Jastremski: 是的,这太疯狂了。 Mr. P: 是的,在存储上这是一笔巨款。我认为目前,就供应紧缺程度而言,HBM 可能是最紧缺的,或者大宗 DRAM,这视情况而定。 Logan Jastremski:我想你可能没有看到……抱歉打断一下。你有没有在你看到的研究或你一直跟踪的其他人的研究中,看到关于存储具体比例划分的明细?因为到目前为止,我和 Bubble Boy 宏观地聊过这个,行业似乎并没有真正专注于“最大化吞吐量(Throughput)”。这可以理解,因为云厂商是按 Token 数量收费的。在吞吐量方面,很大程度上是 Groq 和 Cerebras 在做。然后你有了像高带宽存储(HBM)这样的东西,最终用来保存模型权重和上下文。但随着你拥有工作时间更长的智能体(Agents),并且它们在执行时间跨度更长的任务,现在越来越多地数据被卸载到 NAND 闪存上。在你的研究中,有没有发现什么迹象表明存储存在不同的细分趋势? Mr. P: 我还没有真正看到关于这方面的详细信息。但我知道,存储供应商正试图让 HBM 成为他们收入的更大组成部分。纯粹从经济角度来说,他们希望 HBM 占收入的比例更高,因为他们认为这是可以在长期内维持的东西。大宗 DRAM 就是大宗商品。他们大部分的 DRAM 销售仍然是不包括 HBM 的,他们可能认为这在长期来看对价格更敏感。而 HBM 更加定制化,你可以认为它不是一种大宗商品。因此,他们相信从长期来看,他们能够将 HBM 的利润率提高到高于普通 DRAM 的利润率。所以我认为目前的趋势是,存储制造商希望减少对大宗 DRAM 销售的依赖,他们想卖出更多的 HBM。 Logan Jastremski: 所以他们是把普通的大宗 DRAM 从家用电脑和内存条,更多地转向消耗高带宽存储的数据中心,因为后者可能对价格稍微不那么敏感? Mr. P:是的,完全正确。比如 SK 海力士(SK Hynix)预计到 2030 年,其 DRAM 收入的 35% 将与 HBM 挂钩。这几乎是今年的两倍。这听起来可能不算很多,但我认为对于这些存储制造商来说,每一分钱都很重要,因为他们知道自己所处的行业是一个典型的“繁荣-萧条(Boom-bust)”周期性行业。 Logan Jastremski: 你个人的看法是什么?显然,这些存储公司的市盈率(PE)相对较低,因为在过去,它们更具周期性。那句著名的毒奶是:“这次不一样”。但在你个人的观点或你读过的研究中,你认为它会继续保持周期性吗?或者你认为,由于 AI 带来了更多吉瓦级别的电力上线,以及这些模型需要更多的通用存储,它会变得不那么周期性? Mr. P:不,我仍然认为这是一个繁荣与萧条的周期,只是由于长期协议(LTA)的存在,萧条的那一面可能会被稍微软化。这实际上是一个非常好的问题。以前也有人问过我,我曾公开表示,我认为存储是周期性的,而且将继续保持周期性。这主要是由支出的性质决定的,人们认为云厂商的支出是可持续的,它可以继续增长。这只是一个假设。为了让它不呈周期性,我认为这种支出必须无限期地持续下去,但我认为这不可能发生。我认为支出总会有一个放缓的节点。 Mr. P: 但说到繁荣-萧条周期,我想说,这些存储制造商签订的长期协议(LTA)实际上包含四个方面。闪迪(Sandisk,现西部数据旗下)的 CEO 简单地拆解了这一点。他们做了一些叫做“新商业模式”(NBMs)的东西。其实他们就应该直接叫它 LTA。我不知道他们为什么要叫它 NBMs,可能是为了让它听起来更高级吧。 Logan Jastremski: 是的,为了听起来高大上。 Mr. P: 他们想显得与众不同。但这包含四个部分:时间承诺、数量承诺、定价,以及财务担保。我认为大多数人都熟悉定价部分,但在时间承诺方面,通常是四到五年。我认为目前的 LTA 普遍是五年。我不知道是否很多人知道这一点,但大信证券(Daishin Securities)两天前报道说,三星已经开始收到长达 10 年期合同的请求。所以,这基本上是最初 LTA 时间的两倍。而且他们已经开始与一些客户进行合同延期了。他们以前也提到过,基本上是说如果客户在某个时候想要更高的需求或其他什么,他们就可以延长 LTA,他们可以更改它。所以可能是五年变成七年之类的。但合同的长度最终由供应商决定,如果达到 10 年也就不足为奇了。 Mr. P: 而且我认为,甚至闪迪的 CEO 在 9 月 9 日的一次活动上也说过,他们有可能获得长达 10 年的需求可见度,但他们“还”没有达到那个阶段。强调“还”这个字,因为他是这么说的。但我不认为他们有可能达到那个阶段,因为一份 10 年的合同似乎对双方都是不利的。你不想把一个客户绑定 10 年,因为下行周期的风险可能会非常高。没有人拥有 10 年的可见度。如果一个超大规模云厂商告诉你他们有 10 年的需求可见度,那他们纯粹是在忽悠你。他们根本没有,他们无法预测 2 年以后的事情,对吧?所以在一个长达 10 年的合同中存在很大的波动性。但签订 10 年合同的负面影响还在于,你会失去利用更高价格获利的能力。这就是时间承诺方面。 Logan Jastremski 21:02 说到云厂商的资本支出(Capex)方面,最初,他们主要是用资产负债表上的资金,以及他们过去建立盈利业务所积累的多余现金来为其提供资金。我认为现在如果你看看他们所有人的自由现金流,都在趋向于零,或者他们正在借钱。而且我认为他们中的许多人必须继续为其提供资金。这是否是你的基本假设?即因为收入可能滞后于他们前期的资本支出,所以这种支出会放缓? Mr. P: 嗯,我认为每一项伟大的技术都会经历一个大量投资的时期,然后就会开始放缓。因为“无限支出”的假设前提是 AI 行业永远不会成熟,对吧?但我相信每个行业在某个时刻都会成熟,无论是 PC 还是智能手机,你都有支出,但随后你也会达到行业成熟的阶段,所以你不需要花那么多钱。你只需要维持一定数量的资本支出,无论是削减资本支出,还是在未来几年将其停留在某个水平。这就是我相信未来会发生的事情。我不认为你会看到资本支出一直上升。当然,如果所有的云厂商在未来几年都能创造出巨额的自由现金流,情况就会改变。这预计可能会在 2028 年发生,但我们走着瞧。 Logan Jastremski :看来你不太相信所谓的“AI 超级周期”——即我们实现递归式的自我改进,然后一切就大功告成了,AI 智能体将接管一切。 Mr. P: 嗯,我确实相信 AI,但我想我们得看看他们能达到多高的投资回报率(ROI)。这是一个大问题,因为现在他们只是在消耗自由现金流。所以在自由现金流转正之前,人们会一直保持质疑。 Logan Jastremski: 但回到存储的部分,我刚才谈到了数量、价格和财务担保。在数量承诺方面,LTA 规定了云厂商必须购买的约定数量。我相信 SK 海力士有 50% 到 70% 的供应量与长期协议挂钩。然后是价格,他们基本上都设定了某种价格下限。如果你看看闪迪,他们最近谈到在 2030 年底前保持 80% 的利润率。这就是他们拥有的价格底线机制。但这里有一个附带条件,就是他们可以取消价格上限。我和一位美光(Micron)的员工聊过,他基本上说,如果公司愿意,他们可以将 DRAM 的利润率提高到 94%、96%。 Logan Jastremski: 这太疯狂了。 Mr. P: 是的,很疯狂,对吧?你从来没听说过哪家企业的利润率能这么高。这基本上相当于零成本销售 DRAM。当然,在他和我看来,这不会发生。但重点是,你有一个价格下限,而价格上限可能不存在。所以,如果存储制造商愿意,他们可以不断提高价格。 Logan Jastremski:是的,所以在整个行业中,都有这些长期协议,规定了一定数量的固定新增产能上线,这个数字因公司而异。但在另一方面,你也有这种未被承诺的“浮动产能”,潜在地,由于你没有签署长期协议,这部分的利润率甚至更高。这有点像先到先得,或者价高者得。所以他们潜在地可以收取比长期协议更高的利润率。 Mr. P: 是的,他们可以收取更高的利润率。但显然,他们想要签订更多长期协议的原因是,我认为他们知道这是一个周期性行业。所以他们只是想确保他们的需求能够平稳下来。无论超大规模云厂商的资本支出发生什么变化,他们都能在未来几年赚到固定数额的钱。我稍后会谈到这一点。 Mr. P: 最后一部分是财务担保,对吧?美光表示他们有所有这些战略客户协议,这也是 LTA。他们提到获得了 220 亿美元的预付款。所以附带了某种违约金,无论是预付款还是取消订单的罚款。所以我认为这就是这个周期看起来不同的地方。这就是为什么我说萧条周期会被软化。它不会像以前那样,在下行周期出现极其糟糕的利润率,导致存储制造商因为史无前例的支出规模和 LTA 而破产。 Mr. P: 最重要的是,你可以提出一个我称之为“维护性资本支出(Maintenance capex)”的论点。让我解释一下。想象一下,如果明天云厂商站出来说,我们在未来几个季度的产能和资本支出过度建设了,我们将开始削减资本支出。个人而言,我不认为 AI 支出会达到云厂商削减 50% 或甚至 30% 资本支出的地步。在 23 财年,甲骨文、谷歌、微软、Meta 和亚马逊的总支出约为 1500 亿美元。如果你将下一财年预计为 1 万亿美元的资本支出削减 50%,那仍然是 5000 亿美元。这仍然是 2023 年资本支出的三到四倍。所以,你认为他们削减 50% 支出的情况会发生吗?即使发生了,这仍然是一大笔钱,对吧?所以我认为,即使云厂商削减开支,存储制造商仍然会有相当不错的利润率,并且会设定一个新的平均水平。 Logan Jastremski 27:13 就我个人而言,我认为这(削减支出)不太可能。当我查看 OpenRouter 并观察开源或闭源模型生成的 Token 数量时,似乎现在它只是一路向上。当然,Token 使用量与收入是两码事。但仅仅是 Token 的消耗,即使是像 Agent、Muse、Hermes、Grok Bot 这样的东西。对我来说,这似乎是下一个前沿,特别是随着“计算机使用”(Computer Use)功能的出现。作为普通人,也许不像计算机科学或软件工程领域的人那么深入,我们不用编写代码,我们开始构建用于会计或运营等基本任务的智能体(Agents)。这似乎还处于非常早期的阶段,这让我感到兴奋。 Mr. P: 是的,存储需求将会非常巨大,对吧?唯一需要注意的是,确保云厂商不要对你发火。我认为你将开始看到,也许是美光——我想美光将在下周(30号)发布财报。你将开始看到公司发表评论,说从现在起利润率将趋于稳定。利润率不会更高了,因为他们将落实更多的 LTA。所以会有类似于闪迪的评论。因此,是的,我认为存储仍然是周期性的,但不会像以前那么糟糕。 Mr. P: 但我确实想说,和我聊过的那个在 AMD 工作过的人,他也曾在三星工作过。所以这家伙是个全才。他在三星工作过,在 AMD 工作过,在瑞萨(Renesas)工作过——他目前在瑞萨工作,但他曾为他们的存储业务工作过。他基本上说,对他而言,长期协议(LTA)被过度炒作了。因为他认为,这些合同有可能在私下里被双方默默取消,而且没有任何违约金。他说,你看,上一次经济低迷时,我们与一些大客户签订了 LTA,当需求下降时,我们本应继续交付保证的数量。但如果你最终强迫他们接受,那么发生的情况就是,这些公司会开始把你的产品堆在仓库里好几年。也许云厂商只是拿走你的 DRAM,然后把它放进仓库。然后在合同到期后,他们基本上就不需要你的存储了,因为他们已经在仓库里囤积了。然后你的收入就会进一步下滑。所以他的论点是,如果我强迫客户接受他们不再想要的 500 亿美元产品,那么随着时间的推移,我的收入看起来就像是断崖式下跌到零。对吧?所以不仅股价被腰斩,需求蒸发,你还破坏了客户关系。这就是他的观点。基本上,如果我们到了 AI 支出情况不佳的地步,这种情况就可能发生。他们有可能在私下里默默取消 LTA。 Logan Jastremski:这有道理。希望这种情况不会发生。希望好戏继续上演,人们继续为 AI 服务买单,或者甚至通过广告模式——我认为我们在很大程度上还没有开发出这个市场,更多的是免费增值模式。我想我在 X 上看到了一个统计数据,我不知道,我还没验证过,所以听听就好:世界上只有 2% 或 3% 的人口真正在为 AI 付费。这在方向上似乎是正确的,因为并没有多少人真正玩过这些工具。或者即使玩过,过去也是非常基础的东西。但实际上,它是由少数极端的超级用户驱动的。 Mr. P: 是的,这绝对是真的。 Logan Jastremski:从我关注你的情况来看,你花了很多时间对广泛的物料清单(BOM)进行了非常深入的研究。我也觉得这非常有趣,因为有数万亿美元的资本支出投入到基础设施中。了解这些资金具体流向哪些部件,我认为很重要。你显然提到了算力方面,还有存储。你还发现了哪些其他引起你兴趣,或者总体成本和总支出在广泛增加的领域? Mr. P: 是的,如果你看看 Vera Rubin(英伟达下一代架构)的物料清单,出现三位数增长的组件有 ABF 载板(ABF substrate)、PCB、存储。所以我认为 ABF 载板是值得关注的重要领域。载板产能很紧张。ABF 载板供应短缺很可能会持续到 2028 年以后。我认为有些人甚至说会到 2030 年。如果你读过几周前刚刚发布财报的公司(如戴尔、惠普、英伟达、博通)的电话会议记录,在谈到他们的供应链限制时,他们提到了 DRAM、NAND、ABF 载板、晶圆。所以他们都一致认为载板是一个问题。我认为磷化铟(Indium phosphide)也存在供应短缺的情况,因为你看到很多公司,比如 AXT 公司、住友电工(Sumitomo Electric)、JX 金属(JX Advanced Metals),都在扩大用于激光和光学的磷化铟的供应。所以,是的,我认为 PCB 和 ABF 载板绝对是供应紧缺的两个领域,你可以从物料清单中看到这一点。 Logan Jastremski :另一件我很想听听你意见的事,是关于光子学(Photonics/Optics)方面。因为我认为他们正试图将不同的机架分解开来执行不同的任务。潜在地,如果你有足够高的吞吐量,你可以在这方面做一些非常有趣的事情。我知道很多人一直在关注光通信股票,比如 Lumentum 等等。你对网络连接方面,甚至包括连接机架或进入 NVLink 等不同事物的组件,有什么宏观的看法? Mr. P: 是的,我没有关于特定技术的很多细节,但谈到光通信(Optics),这里有一个关于“铜缆 vs. 光通信”的完整争论,对吧?哪一个会赢?哪一个会消失?人们担心铜缆存在不了多久了,但公司仍在寻找延长铜缆使用寿命的方法。而且我认为铜缆将与光通信共存很长一段时间,它不会像人们认为的那样迅速切换。这是因为共封装光学(CPO - Co-packaged optics)在良率和散热方面仍有很多问题。所以在 2027 年,你可能会看到很多人首先使用近封装光学(Near package optics),然后在 2028、2029 年,你开始看到 CPO 的产量爬坡。这大概是你从 Ayar Labs、Lumentum 和其他公司那里听到的说法。但渗透率会很低。所以你会看到产量的爬坡,但在 2030 年之后 CPO 才可能占据主导地位。很多原因在于它是一项新技术,他们仍需要对其进行测试等。而且 CPO 很昂贵,对吧?所以当我们谈论存储变得昂贵时,我认为云厂商在如何联网他们的机架方面可能会更加精打细算。我知道一些云厂商仍在强调尽可能长时间坚持使用铜缆的重要性。他们不想尽快切换到光通信。他们想确保尽可能多地使用铜缆,因为他们知道明年和未来几年存储支出会有多大,所以他们必须在向光通信过渡时节省一点,因此他们会通过这种方式延长铜缆的使用寿命。但在我看来,未来几年铜缆和光通信的环境将是混合的。 Mr. P: 话虽如此,光通信是最终目标。共封装光学最终会赢。我们只是不知道是什么时候。可能在 2030 年到 2040 年之间,因为速度很重要,对吧?当你开始通过铜缆传输更高的速度时,你就会开始遇到更多的散热问题。当你开始追求更高的速度,并且线缆被挤在一起时,你就会遇到串扰(Cross talk)。这是铜缆的一个大缺点。你不需要成为专家也知道没有什么比光传播得更快,对吧?所以仅凭这一点,光通信最终会赢,因为速度至关重要。 Logan Jastremski:是的,我对光通信方面以及不同权衡(比如散热或铜缆)非常感兴趣。这很有趣。我认为对于光,你通常需要中继器(Repeaters),这可能会消耗更多的能量。由于你提到的电力问题,目前整个数据中心都在大力推动降低总功耗。我认为这也是人们普遍希望在切换到光通信之前,尽可能长时间留在铜缆上的另一个原因。但正如你指出的,光通信要快得多。光穿过玻璃时,速度快得多。是的,我们甚至在拨号上网过渡到宽带,然后是光纤的过程中看到了这一点。显然,今天大多数家庭使用的光纤比拨号上网要好得多。 Mr. P:: 哦,是的,我家用的是 AT&T 的光纤网络。它比我以前用的调制解调器快多了。 Logan Jastremski:很有趣。对我来说,我认为宏观问题之一(你之前也提到了),就是有多少新的吉瓦(GW)电力正在上线,以及我们实际启动它的能力。我认为 SpaceX 在孟菲斯有大约 2 到 2.5 吉瓦的电力,我相信那是世界上最大的连片数据中心。他们那里有几个数据中心,但他们还在继续扩大规模。我想他们在上一次财报电话会议上提到,他们的目标是总共接近 8 到 10 吉瓦,这应该非常有趣。但是,全面来看,到底有多少新的吉瓦电力能够上线?不仅仅是建好数据中心并让它立起来,而是从电力的角度真正让它运转起来。因为很多事情都顺延于此,这是从硬件角度实际生成 Token 的主要收入驱动力。 Mr. P: 就我个人而言,我发了很多关于吉瓦的帖子,但我甚至都没有去追踪新增吉瓦数量的建设情况。但我知道,SemiAnalysis 似乎说过,仅前沿实验室(Frontier labs)明年就将增加 14 吉瓦的电力。但是,是的,我没有真正追踪过,所以我无法给你一个准确的数字。这也是一个变化很大的事情,因为每天你都会听到关于某个数据中心被推迟或实施了某种暂停令的消息。所以这使得追踪吉瓦数变得更加困难。 Logan Jastremski 39:25 或者稍微跑个题,你对“放缓前沿模型开发”有什么看法?我在很大程度上认为这纯粹是瞎扯。我觉得这只是一种“心理安慰(Cope)”,只是为了让事情听起来好听点。但他们敲响警钟的做法确实有点烦人,因为在很大程度上,你规划了这些数据中心,资本支出也投入进去了。如果你真的那么担心所谓的人工智能对齐(Alignment)或 AI 安全,我不认为你会放慢脚步,或者你可能会放缓数据中心的建设。但这些都是长达数十年的合同,而且通常需要很多年才能建好数据中心。所以我很难看到他们真正放缓数据中心的产出。如果说有什么不同的话,我觉得正如你指出的,我们看到他们加快了这些数字。至于他们是否能真正实现这些目标还有待观察,但从他们的行动来看,我们并没有放缓。 Mr. P: 是的,我也觉得谈论放缓是没有意义的。因为如果你在技术或模型上与中国模型有两到三年的代差,那也许可以。但中国开源模型大概只落后六个月左右,对吧?他们并没有落后太多,而且很多企业已经开始转向使用中国模型。所以如果你谈论放缓模型开发,那你只是在让中国迎头赶上。而他们是不会放缓的,对吧?而且我认为中国可能已经落实了很多美国所谈论的“安全护栏”。如果你想放缓,那行,没问题。但这可能会对你的商业模式造成风险。我不认为你能承受得起这种代价,因为你只是在招致更多的竞争。你会让中国赶上来,他们会夺走更多的市场份额。 Mr. P: 就像黄仁勋(Jensen)今天在 All-In 峰会上说的(我想 YouTube 上有相关的视频),他说如果 AI 安全有问题,那就停止模型,对吧?就不要发布它。你不需要政府干预。你不需要政府监管。在网络安全和数据泄露方面,已经有很多现成的法律可以用来追究这些实验室的责任。你不需要制定某种政府政策。这与人类黑客侵入系统并破坏它没有什么不同。你要追究他们的责任。你可以用同样的法律来追究这些实验室的责任。 Logan Jastremski :是的,我认为关于人类会在 2030 年前灭绝的整个说法简直是无稽之谈。是的,这很疯狂。我想我看到马克·扎克伯格也发表了类似的评论,他说他们几个月前就准备好了 Muse,但他们只是没有发布,因为他们想解决一些安全问题。并不是说他们到处宣扬 Muse 有多危险,他们只是从工程方面修复了问题,然后觉得舒服了再发布。 Mr. P: 是的,Muse 很棒。我还没用过,但我听到了很多好评。我想我需要开始用 Muse 了。 Mr. P: 你目前有在使用什么智能体(Agents)吗? Logan Jastremski :我没有使用任何智能体。看起来你好像有,因为你发帖总是那么及时。 Mr. P: 你是第二个问我是否使用智能体的人了,但不,我不用智能体。所有事情都是我手工完成的。我会使用一些模型。 Logan Jastremski : 就我个人而言,我其实喜欢用 Gemini。我不知道为什么人们讨厌它,但我想这取决于使用场景。我在好几个模型之间来回切换。在智能体方面,我一开始用的是 Hermes,你可以在底层切换模型,但它确实比较偏技术向。我想说它更适合超级用户。如果你想要更多的定制,他们绝对允许你这样做。而且很好的一点是,你可以切换模型——比如当 Anthropic(Claude)超越 ChatGPT 时,你可以切换到他们的模型;或者当 ChatGPT 推出 Astra 时,你可以切换回来。这部分很好。但当马斯克和 xAI 宣布推出 Grok Bot 时,我转而使用了它。它简单得多,而且我可以完成我已经建立的很多不同工作流。现在你被绑定到那个特定的模型上了。我不知道 Muse 是否说明了他们底层运行的是哪个模型,我假设是 Facebook 的内部模型。 Logan Jastremski:对我来说,所有这些都非常有趣,这也回到了存储方面。当你要求这些模型执行越来越多长周期任务时,你把这些信息存储在存储层级(Memory hierarchy)的哪个部分?我认为不太可能是 SRAM,考虑到容量问题;或者是 HBM,随着你将更多的芯片联网在一起。但是我认为闪迪和整个 NAND 闪存阵营看起来很有趣,因为他们将更多长周期任务卸载到了闪存中。 Mr. P: 是的,我认为 NAND 可能是那种你会看到存储使用量大幅增加的领域,因为使用了所有的智能体。很多银行的报告,比如 KB Securities 说,如果你有更多的智能体被广泛使用,那么你可能会看到 CPU 和 GPU 的使用量增加。而这只会导致更多的 HBM、DDR5 和闪存需求,对吧?所以我认为总的来说,这对存储需求是非常有建设性的。我认为无论如何,所有东西的使用量都会增加。我不认为会有某种东西的使用量超过另一种。也许闪存的使用量会超过其他,但我对这个领域不太熟悉,所以我无法展开更多。 Logan Jastremski:是的,这很有趣,因为我觉得智能体真正代表了日常使用的广泛前沿方向。希望至少它是朝着这个方向发展的,而不是让人去写代码,但我们走着瞧。绝对很有趣。 Logan Jastremski: 当你思考可能不是今年,而是更偏向 2027 年、2028 年的时候,你在那方面做过什么研究?或者当你展望未来几年时,有什么进入了你的视野? Mr. P: 我想你和别人讨论过 HBF(高带宽闪存 - High Bandwidth Flash),对吧?因为 HBF 将成为一两年后被讨论的话题。我认为它将更加商业化,开始被更多地使用。我觉得 Bubble Boy 关于 HBF 的评论很有趣,他说他听说中国客户想要 HBF。我个人不知道他们为什么想要 HBF,而且我不会怀疑 Bubble Boy 的评论,因为他比我有更多的经验和人脉。但是,HBF 的问题在于它的耐用性(Endurance)很低,对吧?所以它似乎不是 HBM 的替代品。而且长鑫存储(CXMT)仍在努力开发 HBM3。所以,你为什么要 HBF 呢?据我所知,HBF 是紧挨着会发热的 GPU 放置的,对吧?那你怎么保证耐用性?你根本得不到任何耐用性。这简直是双重打击,这是最坏的情况。你要如何缓解 HBF 的散热问题呢?但我不想太深入工程方面,因为我不够资格。 Mr. P: 但是有两个很好的消息来源提到了 HBF 的作用。首先是我在推特 Space 上与 SemiAnalysis 的 Nick Doyle 交流过,他认为 HBF 可能会用于适应小批量推理(Low batch inference)的场景。所以这不适用于超大规模云厂商,对吧?它可能更适合小型部署,比如拥有少量 GPU 的私营企业的本地部署。另一个来源是任天堂的技术总裁,在美国银行(Bank of America)进行的一次专家访谈中,他被问及 HBF,他同意 HBM 可能会与 HBF 共存。因为上述提到的所有问题,而且仍然没有人知道 HBF 是否足够好,因为它在散热、耐用性、带宽以及成本结构方面存在问题,因为他提到他们使用了一种不同的载板,具体我记不清了。但是,是的,我们将看看这项技术如何发展。但我认为 HBF 令人兴奋,因为在半导体行业,你无法确切知道会发生什么,任何事情都可能在一夜之间改变。 Logan Jastremski : 是的,我一直对不同架构的存储非常着迷(Nerding out),因为正如你所指出的,大量的资本支出正投入其中。这主要是在私募市场方面。如果你正在构建任何存储加速器,请联系 Frictionless Capital(注:Logan的VC基金)。我们很乐意交流。无耻地打个广告。 Logan Jastremski: 但是,我对高带宽闪存(HBF)的看法是,潜在地,随着模型变得越来越大,从 1 万亿参数起步——我想 Groq 最新的模型是 4.7,大概是 2.1 或 2.3 万亿参数,而 4.6 是 1.5 万亿参数。埃隆也暗示过,随着时间的推移,Grok 和总参数量将达到 4 万亿、6 万亿、10 万亿,甚至 100 万亿。那么这些模型的权重将放在哪里呢? Logan Jastremski: 也许我们会发现一些——我和 Bubble Boy 也宏观地聊过这个——也许我们会弄清楚一些很酷的算法压缩技术,这样你就不必用混合专家模型(MoE)或其他不同技术来存储整个模型的权重。但如果没有,并且我们必须将整个权重加载到高带宽存储(HBM)甚至高带宽闪存(HBF)上,我认为 HBF 可能会非常适合。因为正如你在耐用性方面指出的,我认为它非常适合“读取(Reads)”,而不是类似 KV 缓存(KV cache)那种随机访问的“写入(Writes)”。但我认为模型权重本身可以保存在高带宽闪存中,或者如果你做一些预计算,比如他们说:“嘿,Logan 已经讨论过这件事了,这是他在运营中经常做的事情”。你已经在算力方面花费了预填充(Prefill)的时间来做这件事,也许你只需把它保存在高带宽闪存中,这样你就不必每次都重新计算,而不是直接把它忘了。所以我确实认为有一些独特的机会。当然,这还有待观察。考虑到它甚至还没有投入制造,这还处于早期阶段。但我确实认为人们开始尝试不同的定制存储加速器(就像我们在训练方面所做的那样)是令人兴奋的。所以我认为这是一个值得关注的有趣领域。因为在很大程度上,我们将大量的宏观算力或数据中心建设从预训练(显然预训练仍将继续)更多地转移到了推理端、解码端,以及这如何改变底层的硬件。 Mr. P: 是的,在这方面你比我懂得多。我希望我能展开谈谈。但是,是的,我没有真正深入研究那些东西,所以抱歉了。 Logan Jastremski: 钻研这些很酷。 Mr. P: 是的,看看人们在尝试什么是很有趣的。HBF 很有趣。 Logan Jastremski: 还有哪些你广泛感兴趣,或者特别让你感到兴奋的事情?显然,你把所有时间都花在这上面了,你处于最前沿,你真正把握着行业的脉搏。你个人对什么感到兴奋? Mr. P: 是的,我很兴奋想看看光通信(Optics)将如何发展,对吧?因为我认为光通信仍然非常迷人。未来几年将会出现如此庞大的网络需求。我认为网络现在是资本支出中增长最快的部分,或者类似的数据。比如在未来五年内,复合年增长率(CAGR)大概是 64%。所以我认为网络的建设将会很有趣,因为最终速度对所有这些模型都很重要,他们想要达到最高速度。所以在谁能提供最好的激光器方面将会产生激烈的竞争。 Mr. P: 我们有 Lumentum,有博通(Broadcom),有 Coherent。我认为 Lumentum 是一家伟大的公司。他们有很棒的激光器。从我交谈过的人来看,与 Coherent 相比,他们似乎拥有最好的技术。甚至像 Rational Analysis 这样的机构也说,Coherent 的激光器等产品很差。 Mr. P: 光通信令人兴奋。我认为电力也令人兴奋。但电力的问题在于,我认为它目前可能不是一个适合投资的领域。主要是因为交货周期太长了。比如你看看燃气轮机(Gas turbines),两年前投资燃气轮机可能很令人兴奋,但现在可能不适合了。因为所有的公司,三菱(Mitsubishi)、西门子(Siemens),尤其是通用电气 Vernova (GE Vernova),他们的积压订单已经排到了 2030 年以后。所以他们的产能已经很紧张了。即使他们可以,他们也无法增加更多的订单。交货周期太长了。如果你今天订购一台燃气轮机,你可能要在 2030 年才能拿到。就是有这么长。 Logan Jastremski :是的,我在一个播客上看到埃隆谈论燃气轮机的叶片和导向叶片(Blades and vanes)。而且很大一部分电力正在转向“表后”(Behind the meter,指用户侧发电),这同样很有趣。但是,是的,当我在做一些研究时,我在想:到底有多少新的吉瓦电力正在上线?回想一下 SemiAnalysis 的报告,关于他们预计要上线多少吉瓦,而很多这些不同的参与者只能带来兆瓦(Megawatts)级别的电力。我就想,好吧,至少在这些参与者谈论的总容量和能源角度,与我们实际需要达到的吉瓦级规模之间,存在着巨大的脱节。就我个人而言,我并没有那么关注能源方面。话虽如此,你显然需要有能源才能启动这些芯片,否则一切都无关紧要。 Mr. P: 是的,现在的拦路虎就是能源,还有,参考迈克尔·戴尔(Michael Dell)的评论——我想这是几周前在高盛或花旗的一次活动上说的。他谈到他如何将新一代云厂商(Neo clouds)视为衡量算力真实需求的一种方式。因为是他们出去获取 LPs,比如土地(Land)、电力(Power)和外壳(Shell)。所以他认为,谁有能力获得所有这些东西,谁就对需求有最好的展望,因为他可以透过他们看到需要多少算力,需要多少服务器。所以,是的,能源现在可能是最大的瓶颈。 Mr. P: 还有存储,对吧?但在我看来,目前没有什么能比得上燃气轮机,因为交货周期太长,而且市场太集中了。 Logan Jastremski :是的,这很有趣。肯定需要继续大力建设这些数据中心。我想我看到,我不记得是 CoreWeave 还是 Nebius 说过,他们将带来几吉瓦的电力。所以希望每个人都贡献一点,这里一吉瓦,那里一吉瓦,然后我们就能达到我们的目标。 Mr. P:是的,每个人都需要尽自己的一份力。不能再延期了。 Logan Jastremski: 是的,绝对的。 Mr. P: 是的,谢谢你邀请我。这是一次很棒的讨论。