La IA Alucina Y Refleja Nuestros Sesgos

Sumérgete en el análisis profundo sobre las Aplicaciones de la Inteligencia Artificial (IA) y los Grandes Modelos de Lenguaje (LLM), como ChatGPT, DeepSeek y Gemini, específicamente en la resolución de problemas matemáticos en el nivel preuniversitario. Este podcast evalúa el rendimiento de la IA al resolver ejercicios de matemáticas de la EBAU de Canarias de 2022 a 2024, analizando su precisión, sus patrones de error por bloques temáticos y su potencial didáctico.Descubrirás que, si bien los modelos demostraron ser competentes en áreas como Álgebra y Geometría, mostraron limitaciones notables en Probabilidad y en la interpretación de enunciados complejos o gráficos. Además, la calidad y precisión de las respuestas se vieron influenciadas significativamente por el uso de instrucciones guiadas (prompt engineering), lo que subraya el valor de la habilidad de los usuarios para interactuar con estas herramientas.El episodio explora la gran amenaza a la confianza en la IA: las "alucinaciones", que son respuestas lingüísticamente fluidas pero falsas, inventadas o desconectadas de la realidad. Aprenderás que este fenómeno es una consecuencia estructural de cómo se entrenan los LLM, ya que están optimizados para sonar convincentes en lugar de admitir incertidumbre, penalizando el honesto "no lo sé". Se analizan las consecuencias operacionales, reputacionales y legales de estas invenciones en áreas críticas como la medicina, el derecho y la ciberseguridad.Finalmente, entenderás que la IA no es un sustituto, sino una herramienta que debe usarse críticamente y bajo supervisión docente. De hecho, los errores de los LLM ofrecen oportunidades valiosas para que el alumnado desarrolle el pensamiento crítico y la comprensión conceptual.