#623.Dylan Patel 谈驱动 AI 革命的基础设施

📝 本期播客简介本期我们克隆了：知名播客 WisdomTree in Europe ｜ Dylan Patel on the infrastructure powering the AI revolution | The Next Big Thing原内容更新时间：2026-07-09本期嘉宾是半导体与AI供应链研究机构SemiAnalysis的创始人Dylan Patel，主持人是WisdomTree的同事。Dylan带领着一个近百人的团队，为全球顶尖机构提供从芯片到数据中心的全面分析，他以对技术细节和供应链拐点的精准预判闻名业内。这期节目是一场关于支撑AI革命的基础设施全景式深度对谈。话题从模型、芯片、存储、网络，一路延伸到数据中心背后的电力供应，几乎覆盖了整个技术栈的关键环节。Dylan不仅拆解了每个细分市场的供需错配和技术演变，还分享了他从论坛发帖少年到创办一家90人研究机构的独特历程。如果你正在关注AI投资、半导体周期、数据中心能源，或者想理解NVIDIA、Anthropic、存储芯片、CPU、光通信这些关键词背后的真实逻辑，这期节目会提供极高密度的一手信息和独特框架。👨‍⚕️ 本期嘉宾Dylan Patel，SemiAnalysis研究机构创始人。SemiAnalysis是全球最具影响力的半导体与AI基础设施独立研究机构之一，客户涵盖顶级对冲基金、云厂商和AI公司。Dylan从十几岁起就在网上发表芯片和硬件分析，2020年创办SemiAnalysis，从一个人的Substack发展为拥有90人、覆盖芯片、网络、数据中心、能源全链条的研究平台。他的团队曾因对NVIDIA Blackwell性能的基准测试被黄仁勋在GTC大会上公开引用而备受瞩目。⏱️ 时间戳从论坛发帖到创办SemiAnalysis01:18 播客开场：梳理AI基础设施现状01:53 SemiAnalysis的起源：从十几岁在网上发帖开始03:27 2020年创办公司：把技术、商业、金融、供应链揉在一起06:51 从Substack到信息服务：2022年开始招人，雪球滚下山AI模型的ROI与token经济学14:22 核心问题：AI的ROI到底能不能持续？15:58 Claude Code爆发：年度经常性支出从10万飙到400万美元18:09 模型选择的两种逻辑：锁定质量等降价 vs 用最新模型反而更便宜20:51 为什么Anthropic能打败OpenAI：token效率是关键存储：正在发生的超级短缺22:17 存储周期规律被打破：所有东西都缺货23:18 存储价格已涨4倍，还会再涨两三倍24:11 O1推理模型如何让内存成为最大赢家25:56 未来三年内存产能只增20-30%，需求却在翻倍CPU：被低估的补涨故事30:11 为什么CPU突然到处都在被讨论30:39 强化学习和Agent工作流如何引爆CPU需求35:07 CPU架构取舍：要更多核心还是更快的核心？38:22 CPU需求是“拨正”而非永久性超越：历史欠账正在集中回补网络与光通信：CPO会来，但比想象中晚40:08 从铜到光的过渡：共封装光学（CPO）的时间表41:36 CPO不会在2027年到来，真正上量要到2028年底42:55 中期反而看好铜和非CPO光通信，对CPO偏空数据中心电力：从卡车发动机到太空太阳能44:15 电力是数据中心最大的制约因素46:18 表后发电模式正在飙升：一半新增电力将就地解决47:59 把柴油卡车发动机改成燃气机来发电，有人已经在做了51:49 变电侧同样关键：从脏电到芯片想要的超干净电🌟 精彩内容💡 "我们年度经常性支出从10万飙到400万美元，就是因为Claude Code"Dylan用SemiAnalysis自身的数据证明了AI的ROI是真实的。公司员工支出中超过三分之一花在AI上，但回报巨大——每个人效率都提高了，能做出更多产品、卖出更多东西。那些砍AI预算的公司，在生产力上会被远远甩在后面。"我们的员工支出里，有超过三分之一是花在AI上……回报巨大，因为我们能做出产品，能卖出更多东西。"💡 "用最新模型反而更便宜"很多人以为省钱的方法是换用更便宜的模型，但Dylan指出，当AI作为助手时，token效率才是关键。新模型可能用四分之一的token、一个来回就完成任务，而旧模型需要十万个token和反复拉扯。成本降低的路径不是用便宜模型，而是用越来越新的模型。"Claude 4.8 Opus可能只需要四分之一的token，两万五千个，而且可能只需要一个来回就搞定了。所以，成本其实更低。"💡 "内存处于短缺状态，不是短期短缺，是会持续好几年的短缺"Dylan在2024年12月就提出，O1推理模型的KV cache会让内存需求爆炸式增长。未来三年内存产能每年只增长20-30%，但需求在翻倍。价格会持续飙升，直到智能手机、笔记本电脑这些对价格敏感的需求被挤出市场，把产能让给AI。"内存价格会持续飙升。那些对价格弹性承受力较弱的内存用户，会被挤出市场。"💡 "CPU需求是一次'拨正'，不是永久性超越"CPU需求确实在暴涨，但Dylan提醒，这很大程度上是在补历史欠账——过去几年卖了大量GPU却没配够CPU。一旦欠账补完，需求就会回落到稳态。大部分钱还是会流向AI算力和内存，CPU不会一直涨到超过AI ASIC。"我现在经历的正是这种巨大的补涨，同时配比也上移了，再加上历史欠账在集中回补。它会慢慢消化，然后进入一个稳态。"💡 "CPO肯定会来，但时间点要往后推了"市场对共封装光学（CPO）过于兴奋，但Dylan指出制造产能不够、良率不行、芯片还没设计好。NVIDIA的Rubin和Feynman两代GPU都还是铜方案。中期反而看好铜和非CPO光通信，因为铜缆行业正在发生很多创新，在把CPO往后推。"集成光学比用电传输贵太多了。除非我用电传输时，不加中继器或光模块就传不了多远。"💡 "你可以直接把卡车发动机拿来改装，雇一群机械师，就这么把场站跑起来"数据中心电力短缺有各种解法，从最"脏"的——把柴油卡车发动机改成烧天然气来发电——到最极端的——把芯片送到太空用太阳能。Dylan认为电力不会是永久瓶颈，因为解法光谱非常宽，而供应链其他环节就没这么多选择了。"数据中心这个问题是有解的，不管你是走最脏的路子，还是直接上太空。而供应链的其他环节就没这么多解法了。"💡 "供应链里全是这种不起眼的小环节，而且都会出现供需错配"除了内存、CPU这些大块头，Dylan提醒投资者关注PCB钻头、铜箔等极偏门环节。这些做小部件的公司遍布全球，在台湾、日本、韩国上市，对大多数投资者来说并不容易接触到，但正是这些局部瓶颈蕴含着巨大的错位机会。"供应链里全是这种不起眼的小环节，而且都会出现供需错配。"🌐 播客信息补充本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的使用 AI 进行翻译，因此可能会有一些地方不通顺；如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight在小宇宙查看该单集文稿