EPISODE · Dec 8, 2024 · 17 MIN
里奇·萨顿：迈向更优的深度学习
from 跨国串门儿计划
人工智能需要更优的深度学习方法，因为现有算法在持续学习环境中表现不佳，丧失了可塑性，灾难性地遗忘，且其强化学习策略崩溃。我寻求设计一种新型深度学习方法，该方法在三个层面上具有动态性（即变化性）：1) 权重层面，2) 每个权重的步长参数层面，3) 互联模式层面。第一步是区分网络中对当前功能至关重要的部分（主干）与尚未发挥作用的部分（边缘）。本次简短演讲探讨了寻找、保护并逐步扩展主干的新思路，以及通过“印记”、“主单元”和“影子权重”在边缘内创建特征的新思路，同时结合先进的步长优化技术。这些是实现动态深度学习的第一步。翻译克隆自：Rich Sutton, Toward a better Deep Learning采用原有人声声线进行播客音频制作～ 也可能会有一些地方听起来怪怪的；仅使用AI进行翻译，也没有进行校对，可能会有一些地方不通顺；如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight
NOW PLAYING
里奇·萨顿：迈向更优的深度学习
No transcript for this episode yet
Similar Episodes
May 14, 2026 ·7m
May 12, 2026 ·2m
May 12, 2026 ·7m
May 11, 2026 ·32m
May 8, 2026 ·2m
May 6, 2026 ·3m