EPISODE · May 6, 2024 · 40 MIN
Por qué la alineación de la inteligencia artificial podría ser difícil con las técnicas modernas de aprendizaje profundo
from Altruismo Eficaz · host Cotra, Ajeya
El problema de la alineación del aprendizaje profundo es el problema de asegurar que los modelos avanzados de aprendizaje profundo no persigan objetivos peligrosos. Este artículo elabora la analogía de la "contratación" para ilustrar cómo la alineación podría ser difícil si los modelos de aprendizaje profundo son más capaces que los humanos. Luego explica con más de detalle técnico en qué consiste el problema de la alineación del aprendizaje profundo. Por último, discute la dificultad del problema de la alineación y el riesgo de no resolverlo.
What this episode covers
El problema de la alineación del aprendizaje profundo es el problema de asegurar que los modelos avanzados de aprendizaje profundo no persigan objetivos peligrosos. Este artículo elabora la analogía de la "contratación" para ilustrar cómo la alineación podría ser difícil si los modelos de aprendizaje profundo son más capaces que los humanos. Luego explica con más de detalle técnico en qué consiste el problema de la alineación del aprendizaje profundo. Por último, discute la dificultad del problema de la alineación y el riesgo de no resolverlo.
NOW PLAYING
Por qué la alineación de la inteligencia artificial podría ser difícil con las técnicas modernas de aprendizaje profundo
No transcript for this episode yet
Similar Episodes
Jul 16, 2026 ·111m
Jul 14, 2026 ·60m
Jul 14, 2026 ·176m
Jul 14, 2026 ·59m