395. Conciencia artificial y qualia, con Santiago Sánchez Migallón

Hoy conversamos con Santiago Sánchez Migallón, profesor de filosofía especializado en mente e inteligencia artificial y autor del blog La máquina de Von Neumann. La conversación gira en torno a una de las preguntas más discutidas actualmente: si sistemas como ChatGPT realmente entienden lo que dicen o simplemente producen respuestas coherentes mediante procesos estadísticos.Uno de los ejes principales es la diferencia entre inteligencia, comprensión y conciencia. Santiago explica cómo los grandes modelos del lenguaje funcionan a partir de predicciones estadísticas sobre palabras y tokens, lo que ha llevado a compararlos con “loros estocásticos”. Sin embargo, también reconoce que sus capacidades actuales obligan a replantear qué entendemos exactamente por inteligencia y hasta qué punto ciertos comportamientos pueden considerarse comprensión.Gran parte del episodio se centra en el llamado grounding problem o problema del anclaje del significado. A través de ejemplos clásicos de la filosofía de la mente y del lenguaje, se discute cómo los seres humanos asociamos palabras con experiencias reales del mundo, mientras que las máquinas operan únicamente sobre símbolos y representaciones matemáticas. Esto lleva a debatir si una IA puede comprender realmente conceptos como “perro”, “dolor” o “color rojo” sin tener experiencia directa de ellos.También se aborda el problema de la conciencia y los límites actuales tanto de la filosofía como de las neurociencias para explicarla. Santiago diferencia claramente entre simular emociones y experimentarlas realmente, introduciendo conceptos como los qualia y la experiencia subjetiva. Desde esta perspectiva, sostiene que las máquinas actuales no poseen emociones, sensaciones ni conciencia fenomenológica, aunque puedan generar discursos convincentes sobre ellas.Otro tema importante es la relación entre filosofía y ciencia. Frente a enfoques más alejados del empirismo, Santiago defiende una filosofía estrechamente conectada con las ciencias cognitivas, la neurociencia y la inteligencia artificial. La conversación explora cómo la filosofía puede aportar marcos conceptuales, experimentos mentales y análisis críticos, mientras que la ciencia proporciona los datos empíricos necesarios para avanzar en estos problemas.Además, hablamos sobre divulgación, escritura y lectura en la era digital. Santiago reflexiona sobre la evolución de los blogs, la pérdida de hábitos de lectura profunda y la importancia de escribir como herramienta para pensar. También comenta cómo la inteligencia artificial está obligando a replantear conceptos tradicionales como identidad, relaciones humanas, creatividad o incluso qué significa ser humano.En la parte final, repasamos su trayectoria personal, su interés temprano por la informática y cómo terminó combinando filosofía, inteligencia artificial y ciencias cognitivas. También hablamos sobre docencia, educación y los retos de enseñar filosofía en una época marcada por la inmediatez tecnológica y la fragmentación de la atención.Como cierre, se subraya la necesidad de mantener espacios de reflexión pausada y crítica en medio del actual entusiasmo tecnológico. Comprender qué son realmente estas tecnologías y cuáles son sus límites requiere no solo avances técnicos, sino también reflexión filosófica y diálogo interdisciplinar.Para más info sobre Santiago: https://about.me/santiagosanchezmigallonSi quieres discutir el contenido de este episodio con otros investigadores, puedes unirte a nuestra comunidad de investigadores en https://horacio-ps.com/comunidad o seguir i newsletter para estar al tanto de contenidos extra relacionados en https://horacio-ps.com/newsletterSi el episodio te ha resultado interesante, puedes apoyarlo dándole a like, suscribiéndote o compartiéndolo en tu plataforma habitual (Spotify, Apple Podcasts, iVoox, YouTube, etc.). Es un gesto que te cuesta muy poco y que ayuda muchísimo a que este podcast siga creciendo y llegue a más personas.