#659.xAI 联合创始人：Igor Babuschkin 解读模型开发的未来

📝 本期播客简介本期我们克隆了：知名播客 Unsupervised Learning: With Jacob Effron xAI Co-Founder: Igor Babuschkin Unpacks the Future of Model Development原内容更新时间：2026-07-31本期嘉宾是xAI联合创始人、River AI创始人Igor Babuschkin，主持人是Redpoint投资人Jacob Effron。Igor的职业生涯几乎横跨了所有顶级AI实验室：在DeepMind主导星际争霸和AlphaCode项目，在OpenAI推理团队早期加入、参与了o1模型诞生前的研究，随后联合创办xAI，在约120天内建成Colossus数据中心，并推动Grok系列模型达到前沿水平。这期节目里，Igor首次深度分享了离开xAI后创办River AI的完整思考，以及他在企业AI、个人AI和本地硬件上的三个核心押注。他还坦诚聊到了与Elon Musk共事的真实体验、对Cursor收购的看法、为什么他认为闭源模型厂商作为生意正陷入困境，以及他对AI对齐、开源模型和人类未来的深刻反思。如果你关心AI行业的走向、模型训练的瓶颈，或者想了解顶级AI研究者如何看待这个时代的变革，这期节目会给你大量一手判断。👨‍⚕️ 本期嘉宾Igor Babuschkin，River AI创始人兼CEO，xAI联合创始人。他的职业生涯横跨DeepMind、OpenAI和xAI三大顶级AI实验室：在DeepMind主导了星际争霸AI项目和AlphaCode项目，在OpenAI参与了推理方向的早期研究，随后联合创办xAI并主导了Colossus数据中心的建设。2025年离开xAI后创办River AI，专注于企业AI、个人AI和本地硬件三个方向。他是一位兼具研究深度和工程能力的AI领域领军人物，对模型训练、强化学习和AI对齐有极深的理解。⏱️ 时间戳00:00 开场 & 播客简介嘉宾登场与背景介绍01:10 主持人Jacob Effron介绍Igor的传奇经历02:18 Igor接受邀请，对话正式开始从科幻小说到AI愿景02:56 Igor谈为何写科幻小说：编程Agent的爆发04:17 现代版《魔法师的学徒》：AI失控的隐喻05:11 个人AI是Agent的下一个迭代方向AI的下一步：从可验证到不可验证05:57 科学发现是AI的下一个明确方向07:16 数据瓶颈：物理世界实验的挑战08:09 超级AI与日常AI的分化River AI的三个赌注09:26 创办River AI的动机：分发AI的控制权11:20 三个项目：企业API、个人AI、本地硬件11:36 第一个赌注：River API强化学习服务12:12 第二个赌注：个人AI与个性化对齐13:10 第三个赌注：本地硬件与推理算力本地AI的隐私与控制14:47 控制权是本地AI的核心动机15:02 本地设备的低延迟优势15:23 个人AI的隐私问题与数据安全模型个性化与端到端训练15:57 个人模型的持续学习与定制16:24 端到端训练的重要性17:08 以个体幸福感为奖励函数企业AI与开源模型的未来19:19 企业定制模型的成本与速度考量19:50 专有模型与开源模型的竞争格局20:36 开源模型变强带来的趋势变化21:42 专有模型厂商的困境：两头受压开源模型与地缘政治27:48 中国开源模型的优势与风险28:13 开源模型降低门槛的价值29:03 对模型后门风险的评估29:37 美国需要最好的开源模型从DeepMind到OpenAI的旅程30:38 回顾AI进展的惊人时刻30:55 从物理学家到AI研究者的转变32:04 星际争霸项目的技术挑战33:04 AlphaCode：编程是下一个大方向33:49 加入OpenAI推理团队OpenAI与DeepMind的比较34:50 两家实验室的文化差异35:11 OpenAI的优势：人才密度与共识35:42 对AI权力集中的担忧xAI的创立与Colossus37:11 与Elon Musk的相遇与共鸣37:49 xAI的创立与人才聚集38:26 Colossus数据中心：120天的奇迹39:10 质疑传统数据中心建设方式与Elon共事的体验40:10 Elon对工程师的尊重40:46 深入工程细节的领导风格41:08 高能量与团队动力Cursor收购与编程模型41:25 Cursor收购是极其聪明的一步41:52 真实世界编程数据的价值42:24 强化学习环境的重要性模型训练的瓶颈与突破43:08 最大瓶颈：长时域与不可验证奖励43:39 编程赛道的陷阱与长时域领域44:04 Agent rollout时间对训练的限制不可验证领域的进展44:37 LLM裁判方法的兴起44:50 模型自身判断力的可靠性45:18 配方已存在，等待大规模实验AI的变革时刻与未来45:41 编程Agent的变革超出预期46:22 阶跃变化时刻的不可预测性人类与机器的共生46:50 人类在AI时代的位置47:12 与机器建立正确的共生方式47:58 对齐需要更深层次的进展AI安全与放缓的呼吁49:17 对放缓AI发展的公开信的看法49:32 AI已太大，难以慢下来50:02 在安全技术上加速开源模型与对齐研究50:15 开源模型对安全研究的价值50:35 网络安全能力是当前最大风险AI的风险评估50:55 AI放大不平等的直接风险51:18 模型接管一切的远期风险结尾与感悟51:40 《向机器神祈祷》中的动人句子51:57 第一次让模型跑起来的神奇感觉52:39 收尾与感谢🌟 精彩内容💡 "我们想做爵士乐队，不想做军乐队"Igor用"爵士乐队"形容Notion的组织状态：不是没有结构，而是在结构中允许即兴、协作和个人发挥。AI时代变化太快，传统计划与层级不足以应对每周都在变的技术环境。"我们想做爵士乐队，不想做军乐队。"💡 AI产品不是造桥，而是酿啤酒传统软件像造桥，设计清楚结果可预测；用language model构建产品更像酿啤酒，你无法完全控制"酵母"，只能让最强的人一起实验、评估、打磨。"用language model构建产品，更像是在酿啤酒。"💡 编程Agent的爆发是所有人都没预料到的变革Igor坦言，他原本预期编程模型会平稳进步，但2025年11月、12月编程Agent突然跨过能力门槛，使用量爆发式增长，这种阶跃变化完全超出预期。"使用量的突然爆发，那真的是另一回事。"💡 闭源模型厂商正被两头挤压前沿模型强到可能不被允许发布，而开源模型每个月都在变强。Igor认为做专有模型其实不是个好位置，出路在于创新和走向分布式。"你把模型做得太好了，不让你发布；但开源就在你身后，每个月都在变强。"💡 个人AI的核心是端到端训练个体幸福感Igor认为，未来的个人AI应该针对每个个体进行端到端训练，以最大化一个人的幸福感为奖励函数，而不是让模型在平均用户上表现良好。"你真的要针对你想优化的那个真实信号去做端到端训练——也就是个体的幸福感。"💡 本地硬件是AI控制权的根本Igor强调，把推理算力带到用户本地，让模型真正属于个人，是解决AI权力集中的根本一步。这既是研究问题，也是工程问题。"我们能不能把推理算力带到用户本地？要真正在办公室、在家里放一台小设备就能跑前沿模型，需要做到什么？"💡 美国需要拥有最好的开源模型Igor认为，美国拥有最好的开源模型至关重要，这既是地缘政治的需要，也是让更多人参与AI对齐研究的基础。"我们应该都想办法，怎么让一个美国团队训练出全世界最好的开源模型，没有之一。"💡 人类需要与机器建立深层次的共生面对"机器能做所有工作，人类还剩什么"的问题，Igor认为关键在于找到与机器的正确共生方式，这需要对齐方面的新进展，甚至可能包括神经接口。"我们应该努力的方向，是想办法让共生继续下去。而对我来说，这需要对齐方面的新进展。"🌐 播客信息补充本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的使用 AI 进行翻译，因此可能会有一些地方不通顺；如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight在小宇宙查看该单集文稿