#662.：谷歌首席科学家Jeff Dean: 人工智能构建中的 1%法则

📝 本期播客简介本期我们克隆了：知名播客 Y Combinator Jeff Dean: The 1% Rule for Building in AI原内容更新时间：2026-07-30本期节目是 Y Combinator 在 Startup School 2026 上的特别对话，主持人是 YC 合伙人 Diana Hu，嘉宾是谷歌首席科学家 Jeff Dean。Jeff Dean 是 MapReduce、BigTable、TensorFlow、TPU 等多项关键技术的缔造者，也是谷歌 AI 领域的核心人物。这期节目围绕他过往的"餐巾纸估算"故事展开，聊到了 AI 推理硬件、智能体系统、以及小团队如何在 AI 时代找到自己的机会。从 2001 年"整个搜索索引装进内存"的颠覆性认识，到 2013 年"语音识别三分钟"催生 TPU 的传奇故事，Jeff Dean 用一个个具体案例，展示了第一性原理思考如何带来数量级的性能提升。他还给出了 2026 年 AI 版的"延迟数字清单"，并深入探讨了上下文工程、多智能体系统、以及创始人该如何培养"品味"。这期节目特别适合正在思考 AI 创业方向的人。Jeff Dean 给出了非常实用的判断标准：去找那些通用模型成功率是 0% 或 1% 的问题，而不是 20% 的。他还分享了如何通过写"skills"让 Agent 像他一样做性能优化，以及为什么"说清楚你想要什么"在 AI 时代变得比以往更重要。👨‍⚕️ 本期嘉宾Jeff Dean，谷歌首席科学家，谷歌 AI 领域的核心人物。他参与缔造了 MapReduce、BigTable、TensorFlow、TPU、Gemini 等多项关键技术，是分布式系统和机器学习领域的传奇工程师。他的"餐巾纸估算"能力闻名业界，曾多次通过粗略计算做出影响深远的硬件和系统决策。他也是著名的《The Latency Numbers Every Engineer Should Know》清单的作者。⏱️ 时间戳开场 & 播客简介00:00 节目开场与嘉宾介绍01:13 Jeff Dean 对 2025 年"AI 相当于初级工程师"预测的回顾02:24 对 2027 年的新预测：ML 系统自动化程度将大幅提高从餐巾纸估算到 TPU 的诞生03:03 2001 年"搜索索引装进内存"的颠覆性时刻04:21 人们还没意识到的：Agent 可以跑上几天甚至几周05:18 2013 年语音识别估算与 TPU 的起源故事07:48 给未来创始人的建议：如何做有分量的估算2026 年 AI 版延迟数字清单09:01 2026 年 AI 系统最重要的数字：带宽、能耗、互联09:39 搬数据的能耗比计算贵一千倍11:06 批处理本质上是数据输入输出问题11:45 推理硬件专门化的巨大空间上下文工程与 Agent 系统12:56 从模型规模到上下文工程的转变14:48 如何做好上下文工程：写 skills、给指导15:40 实例：为性能优化写的 skill 和《Performance Hints》17:35 Agent 跑偏的瓶颈与多智能体系统创业公司在哪里赢19:46 谷歌持续构建的 vs 两三人团队能胜出的21:06 如何判断该挑什么事情来做：找 0% 成功率的问题23:23 垂直模型的例子：AlphaFold 与材料科学24:14 成为 AI 原生创始人：清晰规格说明的重要性品味、思想实验与自我改进系统26:01 什么技能会变得稀缺：品味与高层智慧26:51 如何培养品味：经验、预测、思想实验27:53 疯狂思想实验：用每天出错 20 次的晶体管构建系统30:24 从思想实验到现实：TPU 与 MapReduce 的起源AI 构建 AI 与超级加速的科学方法32:19 AlphaChip 与 AlphaEvolve：让 AI 构建 AI32:44 自动化实验循环：从科学方法到机器学习33:48 用学出来的验证模型加速科学发现35:23 超级加速科学方法能解决的领域给未来创始人的建议36:30 被拒绝的故事：蒸馏论文被会议拒稿38:24 如果 25 岁的 Jeff Dean 来到今天会做什么40:45 如何与聪明人共事、找到聪明人42:10 希望未来创始人去解决的问题🌟 精彩内容💡 "餐巾纸是好东西"Jeff Dean 的传奇之处在于，他能在信封背面做粗略估算，然后造出改变行业的东西。从"搜索索引装进内存"到"语音识别三分钟"催生 TPU，核心都是先看到瓶颈，再从第一性原理出发想完全不同的解法。"去想想你看到的问题，不管你在琢磨什么，看看瓶颈在哪里。然后有没有完全不同的思路去解决其中某些问题，能让你拿到一个数量级、甚至两个数量级的性能提升。"💡 搬数据比算数据贵一千倍这个能耗差距塑造了机器学习里几乎所有的设计决策。没有这一千倍的差距，你根本不需要做批处理。理解这类底层物理约束，才能真正理解为什么系统被设计成今天这样。"把数据从加速器上的 HBM 搬进处理器，它才能真正在上面算。这个差距非常显著，它塑造了我们在机器学习里做的很多事。"💡 模型只是你要做的事里的一块Jeff Dean 强调，真正重要的是搭一个能解决有趣问题的完整系统：会用工具的模型、能检索信息、有历史记录、能拆解任务。上下文工程让信息对模型来说非常清晰，远胜于训练数据那锅"几万亿 token 的汤"。"模型其实只是你要做的事里的一块，你要做的是搭一个能解决真正有趣问题的完整系统。"💡 找 0% 成功率的问题，而不是 20% 的给创始人的核心判断标准：如果通用模型已经能做 20%，那随着更多数据和更大规模，它很快就会做得更好。你要找的是模型完全做不了、成功率是 0% 或 1% 的事情——那才是你的机会。"你要找的是模型成功率是百分之零或百分之一的事情，而不是百分之二十的。"💡 说清楚你想要什么，比以往更重要以前你把任务交给一个聪明人，他可以追问；现在 Agent 也会猜，但猜出来的往往跟你脑子想的不一样。清晰的规格说明是让 Agent 成功的关键，这也是为什么"把 Python 翻译成 Go"这类任务模型特别擅长——因为规格太清晰了。"你越清楚自己想要什么，Agent 就越有指导原则、规则，也就是一个它要完成什么的大纲。"💡 品味是 AI 时代最稀缺的技能当所有代码都能由 Agent 写好，真正的较量在于你要把时间花在哪个问题上。选对问题并成功解决它，远比把一个无聊问题研究得漂漂亮亮要好得多。培养品味的方法之一，是写下你预测未来十二个月可能重要的事情，然后回头评估。"如果你选对了问题并且成功解决了它，那远比你把一个相当无聊的问题研究得漂漂亮亮要好得多。"💡 被拒绝也没关系，继续往前走那篇关于蒸馏的论文被欧洲会议拒了，理由是"不太可能产生重大影响"。但 Jeff Dean 和团队知道这是个极其重要的问题，他们把它放到 arXiv 上，大家读它、用它，今天它已经成了业界人人都在用的招数。"时不时被拒一次，也没关系。我们把它放到 arXiv 上，大家读它，用它，一切都好。"🌐 播客信息补充本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的使用 AI 进行翻译，因此可能会有一些地方不通顺；如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight在小宇宙查看该单集文稿