The Little Book of Deep Learning - François Fleuret

Este texto constituye una introducción técnica y pedagógica al aprendizaje profundo, explorando desde sus fundamentos estadísticos hasta las arquitecturas contemporáneas de gran escala. El autor detalla cómo estos modelos, compuestos por múltiples capas de operaciones tensoriales, logran aprender representaciones complejas a partir de datos masivos mediante el algoritmo de retropropagación y el descenso de gradiente estocástico. A través de un análisis de componentes esenciales como las capas convolucionales, los mecanismos de atención y los transformadores, la obra subraya la importancia crítica de la capacidad de cómputo de las GPUs y las leyes de escala en el rendimiento actual de la inteligencia artificial. En última instancia, el contenido funciona como una guía para comprender la transición desde la regresión lineal básica hasta los Grandes Modelos de Lenguaje (LLMs), enfatizando siempre la necesidad de equilibrar la flexibilidad del modelo con una estructura técnica que evite el sobreajuste.