#659.xAI 联合创始人：Igor Babuschkin 解读模型开发的未来

📝 本期播客简介 本期我们克隆了：知名播客 Unsupervised Learning: With Jacob Effron xAI Co-Founder: Igor Babuschkin Unpacks the Future of Model Development 原内容更新时间：2026-07-31 本期嘉宾是xAI联合创始人、River AI创始人Igor Babuschkin，主持人是Redpoint投资人Jacob Effron。Igor的职业生涯几乎横跨了所有顶级AI实验室：在DeepMind主导星际争霸和AlphaCode项目，在OpenAI推理团队早期加入、参与了o1模型诞生前的研究，随后联合创办xAI，在约120天内建成Colossus数据中心，并推动Grok系列模型达到前沿水平。 这期节目里，Igor首次深度分享了离开xAI后创办River AI的完整思考，以及他在企业AI、个人AI和本地硬件上的三个核心押注。他还坦诚聊到了与Elon Musk共事的真实体验、对Cursor收购的看法、为什么他认为闭源模型厂商作为生意正陷入困境，以及他对AI对齐、开源模型和人类未来的深刻反思。如果你关心AI行业的走向、模型训练的瓶颈，或者想了解顶级AI研究者如何看待这个时代的变革，这期节目会给你大量一手判断。 👨‍⚕️ 本期嘉宾 Igor Babuschkin，River AI创始人兼CEO，xAI联合创始人。他的职业生涯横跨DeepMind、OpenAI和xAI三大顶级AI实验室：在DeepMind主导了星际争霸AI项目和AlphaCode项目，在OpenAI参与了推理方向的早期研究，随后联合创办xAI并主导了Colossus数据中心的建设。2025年离开xAI后创办River AI，专注于企业AI、个人AI和本地硬件三个方向。他是一位兼具研究深度和工程能力的AI领域领军人物，对模型训练、强化学习和AI对齐有极深的理解。 ⏱️ 时间戳 00:00 开场 & 播客简介 嘉宾登场与背景介绍 01:10 主持人Jacob Effron介绍Igor的传奇经历 02:18 Igor接受邀请，对话正式开始 从科幻小说到AI愿景 02:56 Igor谈为何写科幻小说：编程Agent的爆发 04:17 现代版《魔法师的学徒》：AI失控的隐喻 05:11 个人AI是Agent的下一个迭代方向 AI的下一步：从可验证到不可验证 05:57 科学发现是AI的下一个明确方向 07:16 数据瓶颈：物理世界实验的挑战 08:09 超级AI与日常AI的分化 River AI的三个赌注 09:26 创办River AI的动机：分发AI的控制权 11:20 三个项目：企业API、个人AI、本地硬件 11:36 第一个赌注：River API强化学习服务 12:12 第二个赌注：个人AI与个性化对齐 13:10 第三个赌注：本地硬件与推理算力 本地AI的隐私与控制 14:47 控制权是本地AI的核心动机 15:02 本地设备的低延迟优势 15:23 个人AI的隐私问题与数据安全 模型个性化与端到端训练 15:57 个人模型的持续学习与定制 16:24 端到端训练的重要性 17:08 以个体幸福感为奖励函数 企业AI与开源模型的未来 19:19 企业定制模型的成本与速度考量 19:50 专有模型与开源模型的竞争格局 20:36 开源模型变强带来的趋势变化 21:42 专有模型厂商的困境：两头受压 开源模型与地缘政治 27:48 中国开源模型的优势与风险 28:13 开源模型降低门槛的价值 29:03 对模型后门风险的评估 29:37 美国需要最好的开源模型 从DeepMind到OpenAI的旅程 30:38 回顾AI进展的惊人时刻 30:55 从物理学家到AI研究者的转变 32:04 星际争霸项目的技术挑战 33:04 AlphaCode：编程是下一个大方向 33:49 加入OpenAI推理团队 OpenAI与DeepMind的比较 34:50 两家实验室的文化差异 35:11 OpenAI的优势：人才密度与共识 35:42 对AI权力集中的担忧 xAI的创立与Colossus 37:11 与Elon Musk的相遇与共鸣 37:49 xAI的创立与人才聚集 38:26 Colossus数据中心：120天的奇迹 39:10 质疑传统数据中心建设方式 与Elon共事的体验 40:10 Elon对工程师的尊重 40:46 深入工程细节的领导风格 41:08 高能量与团队动力 Cursor收购与编程模型 41:25 Cursor收购是极其聪明的一步 41:52 真实世界编程数据的价值 42:24 强化学习环境的重要性 模型训练的瓶颈与突破 43:08 最大瓶颈：长时域与不可验证奖励 43:39 编程赛道的陷阱与长时域领域 44:04 Agent rollout时间对训练的限制 不可验证领域的进展 44:37 LLM裁判方法的兴起 44:50 模型自身判断力的可靠性 45:18 配方已存在，等待大规模实验 AI的变革时刻与未来 45:41 编程Agent的变革超出预期 46:22 阶跃变化时刻的不可预测性 人类与机器的共生 46:50 人类在AI时代的位置 47:12 与机器建立正确的共生方式 47:58 对齐需要更深层次的进展 AI安全与放缓的呼吁 49:17 对放缓AI发展的公开信的看法 49:32 AI已太大，难以慢下来 50:02 在安全技术上加速 开源模型与对齐研究 50:15 开源模型对安全研究的价值 50:35 网络安全能力是当前最大风险 AI的风险评估 50:55 AI放大不平等的直接风险 51:18 模型接管一切的远期风险 结尾与感悟 51:40 《向机器神祈祷》中的动人句子 51:57 第一次让模型跑起来的神奇感觉 52:39 收尾与感谢 🌟 精彩内容 💡 "我们想做爵士乐队，不想做军乐队" Igor用"爵士乐队"形容Notion的组织状态：不是没有结构，而是在结构中允许即兴、协作和个人发挥。AI时代变化太快，传统计划与层级不足以应对每周都在变的技术环境。 "我们想做爵士乐队，不想做军乐队。" 💡 AI产品不是造桥，而是酿啤酒 传统软件像造桥，设计清楚结果可预测；用language model构建产品更像酿啤酒，你无法完全控制"酵母"，只能让最强的人一起实验、评估、打磨。 "用language model构建产品，更像是在酿啤酒。" 💡 编程Agent的爆发是所有人都没预料到的变革 Igor坦言，他原本预期编程模型会平稳进步，但2025年11月、12月编程Agent突然跨过能力门槛，使用量爆发式增长，这种阶跃变化完全超出预期。 "使用量的突然爆发，那真的是另一回事。" 💡 闭源模型厂商正被两头挤压 前沿模型强到可能不被允许发布，而开源模型每个月都在变强。Igor认为做专有模型其实不是个好位置，出路在于创新和走向分布式。 "你把模型做得太好了，不让你发布；但开源就在你身后，每个月都在变强。" 💡 个人AI的核心是端到端训练个体幸福感 Igor认为，未来的个人AI应该针对每个个体进行端到端训练，以最大化一个人的幸福感为奖励函数，而不是让模型在平均用户上表现良好。 "你真的要针对你想优化的那个真实信号去做端到端训练——也就是个体的幸福感。" 💡 本地硬件是AI控制权的根本 Igor强调，把推理算力带到用户本地，让模型真正属于个人，是解决AI权力集中的根本一步。这既是研究问题，也是工程问题。 "我们能不能把推理算力带到用户本地？要真正在办公室、在家里放一台小设备就能跑前沿模型，需要做到什么？" 💡 美国需要拥有最好的开源模型 Igor认为，美国拥有最好的开源模型至关重要，这既是地缘政治的需要，也是让更多人参与AI对齐研究的基础。 "我们应该都想办法，怎么让一个美国团队训练出全世界最好的开源模型，没有之一。" 💡 人类需要与机器建立深层次的共生 面对"机器能做所有工作，人类还剩什么"的问题，Igor认为关键在于找到与机器的正确共生方式，这需要对齐方面的新进展，甚至可能包括神经接口。 "我们应该努力的方向，是想办法让共生继续下去。而对我来说，这需要对齐方面的新进展。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的 使用 AI 进行翻译，因此可能会有一些地方不通顺； 如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight 在小宇宙查看该单集文稿