#337.AI的下一程：Ilya Sutskever谈从“规模化”到“研究”时代，以及超级智能的未来

📝 本期播客简介本期我们克隆了备受瞩目的《The Dwarkesh Podcast》中，主持人Dwarkesh Patel与OpenAI联合创始人、现SSI（安全超级智能公司）联合创始人Ilya Sutskever的深度对话。Ilya Sutskever，这位被誉为AI领域“品味最佳”的研究者，与我们共同探讨了人工智能的未来走向。他提出，AI正从“规模化时代”迈向“研究时代”，单纯的算力堆叠已不再是唯一答案。我们深入剖析了AI与人类学习能力之间的巨大“泛化鸿沟”，为何AI在评测中表现优异，经济影响却滞后？人类如何以更少的样本、更强的鲁棒性学习？Ilya分享了他对人类“价值函数”（情感）在决策中的作用的独特见解，并暗示了人类学习背后可能存在的“更好的机器学习能力”。他还阐述了SSI的独特技术路线，以及他对于“一步到位”实现超级智能策略的最新思考。对话中，Ilya大胆预测了未来5到25年内，能像人类一样学习并因此变得超人的AI将出现，并探讨了这种强大AI的部署方式、经济影响以及如何确保其“关心所有有情生命”的对齐难题。这不仅是一场关于技术前沿的探讨，更是一次对智能本质、未来社会形态的哲学思辨。翻译克隆自：Ilya Sutskever – We're moving from the age of scaling to the age of research👨‍⚕️ 本期嘉宾Ilya Sutskever，OpenAI联合创始人，现SSI（安全超级智能公司）联合创始人。他被誉为AI领域“品味最佳”的研究者，是深度学习领域的领军人物，对AI的理论和实践发展产生了深远影响。⏱️ 时间戳00:00 开场 & 播客简介AI现状与经济影响的困惑02:06 AI的“科幻”现实与日常感：AI投资巨大，但普通人感受不深03:52 AI评测表现与经济影响的脱节：模型表现优异，但实际经济价值滞后04:25 AI编程中的“bug循环”现象：模型修复一个bug却引入另一个，反复循环AI泛化鸿沟与训练方法05:06 强化学习的局限性：视野狭窄与评测导向，导致真实世界表现不佳08:12 人类学习的类比：专注训练与天赋泛化，AI更像前者10:31 预训练的优势与局限：数据量庞大但难以分析，人类学习无对应模式人类智能的奥秘：情感与价值函数12:42 人类学习的样本效率与进化先验：进化赋予人类关键信息，学习效率高13:08 情感作为“价值函数”的角色：大脑受损案例揭示情感在决策中的重要性18:01 情感的简单性与鲁棒性：情感机制虽简单，却能广泛适应现代社会AI发展趋势：从“规模化”到“研究”时代19:20 “扩展”范式的兴起与局限：单纯扩大规模不再是唯一答案20:58 数据耗尽与算力瓶颈：预训练数据有限，未来需新方法21:15 重回研究时代：AI发展进入需要新思想和新方法的阶段泛化能力：AI与人类学习的核心差异24:07 AI泛化能力的根本性问题：模型在泛化能力上远不如人类25:04 人类学习的样本效率与鲁棒性：人类学习所需数据少，且更稳定28:02 人类“更好的机器学习能力”：语言、数学、编程等领域展现人类学习的通用性SSI的独特路径与“一步到位”策略31:09 研究时代的氛围与算力需求：研究不一定需要最大规模算力35:01 SSI的资金与研究资源分配：专注于研究，资源利用更高效37:09 “一步到位”超级智能的思考：隔离市场竞争，但需逐步展示AI能力超级智能的部署与社会影响43:52 逐步部署与公众适应：即使“一步到位”也需渐进式发布45:04 “通用AI”与“预训练”的概念反思：人类并非通用AI，依赖持续学习46:42 超级智能的经济增长与“智能爆炸”：快速学习AI可能带来经济飞跃50:54 AI安全：构建关心“所有有情生命”的AI，而非仅限于人类未来展望：多AI共存与人类角色53:09 超级智能的形态：可能是多个强大AI，而非单一“神”57:41 人类与AI的融合：通过“神经连接”实现共存与平衡58:47 Sardine广告SSI的差异化与未来预测01:00:10 SSI的技术路线与研究重点：专注于有前景的泛化想法01:01:18 前联合创始人的离职背景：因收购提议与公司战略分歧01:02:08 AI发展的时间表：5到25年内出现类人学习的超人AI01:04:34 AI公司策略的趋同：随着AI强大，各公司将在安全策略上达成一致AI多样性与研究品味01:09:14 AI模型相似性与多样性缺失：预训练导致模型同质化01:11:09 自我对弈与对抗性设置：促进AI多样性和学习效率01:13:12 Ilya的“研究品味”：受大脑启发的美学与自上而下的信念01:15:34 播客结束🌟 精彩内容💡 AI的“泛化鸿沟”与“研究时代”的回归Ilya Sutskever指出，当前AI在基准测试中表现优异，但实际经济影响滞后，这源于AI与人类学习之间巨大的“泛化鸿沟”。他认为，我们正从单纯追求“规模化”的时代，重新回到需要新思想和新方法的“研究时代”，以解决AI在泛化能力上的根本性问题。“这些模型更像是第一个学生，甚至有过之而无不及。因为我们会说：‘好，模型应该擅长编程竞赛。’于是我们就去搜集有史以来所有的编程竞赛题目，然后做一些数据增强……这样一来，你就得到了一个非常厉害的编程竞赛选手。”🧠 人类情感：AI“价值函数”的奥秘Ilya通过一个大脑情感中枢受损的案例，阐释了人类情感在决策中扮演的“价值函数”角色。他认为，情感虽然相对简单，但其鲁棒性对于人类在复杂世界中有效行动至关重要。这暗示了AI未来发展可能需要内置类似机制，以实现更深层次的智能。“人类的价值函数在某种重要方式上，是被进化硬编码的情感所调节的。而这对于人类在世界上有效行动，可能至关重要。”🚀 SSI的独特路径：“一步到位”与“持续学习”的融合Ilya分享了SSI在实现超级智能上的策略，既考虑了“一步到位”的优势（隔绝市场竞争，专注于研究），也认识到逐步部署和“持续学习”的重要性。他认为，未来的超级智能可能更像一个“渴望学习的十五岁少年”，而非一个已完成所有知识储备的实体，其部署本身将是一个学习和试错的过程。“我可能制造出一个超级智能的十五岁少年，他非常渴望学习，但其实懂得不多。他是个好学生，充满热情。然后你对他说：‘你去当个程序员吧’，‘你去当个医生吧’，‘去学习吧’。”🤝 AI对齐的终极目标：“关心所有有情生命”面对超级智能的巨大力量，Ilya提出了一个大胆的对齐目标：构建一个能够稳健地、发自内心地“关心所有有情生命”的AI。他认为，这可能比仅仅让AI关心人类更容易实现，因为AI本身也将是有情的，这种同情心可能是一种涌现属性。“具体来说，我认为有理由相信，构建一个关心所有有情生命的AI，可能比构建一个只关心人类的AI更容易。”🔮 AI的未来预测：5到25年内，人类将与“半AI”共存Ilya预测，在未来5到25年内，能像人类一样学习并因此变得超人的AI将出现。他设想的未来可能不是单一的“神级”AI，而是多个强大的AI agent共存。为了实现长期的平衡，他甚至提出人类可能需要通过某种“神经连接++”的方式，让自己也成为“半个AI”，从而与AI共同理解和参与世界。“那就是，如果人们通过某种‘神经连接++’之类的东西，自己也变成半个AI。因为这样一来，当AI理解了某件事，我们也同时理解了，因为这种理解是整体传输的。”🌐 播客信息补充本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的使用 AI 进行翻译，因此可能会有一些地方不通顺；如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight在小宇宙查看该单集文稿