16. El sistema me dejó hacerlo

¿En qué momento dejamos de utilizar los sistemas como herramientas y empezamos a utilizarlos como sustitutos de nuestro criterio?En este episodio de Entre Políticas y Personas, parto de una situación cotidiana de trabajo: un caso que debía ser cancelado de acuerdo con la política, pero alguien insistía en cerrarlo porque “necesitaba cerrarlo”. Cuando apareció la pregunta de por qué el sistema había permitido procesarlo, surgió una respuesta cada vez más común: “El sistema me dejó.”Pero que un sistema permita hacer algo no significa que esté bien hacerlo.Hablamos de la importancia de conocer las políticas, revisar la información antes de procesarla y entender que los indicadores no deberían convertirse en una excusa para priorizar cantidad sobre calidad.Y de ahí damos un paso más: la inteligencia artificial.Si estamos enseñando a las máquinas a procesar información, analizar patrones y ayudarnos a tomar decisiones, ¿qué estamos enseñando nosotros?¿Estamos transmitiendo criterio, capacidad de cuestionar y responsabilidad? ¿O estamos simplemente automatizando nuestros propios errores?Porque los sistemas pueden procesar.
La tecnología puede automatizar.
La inteligencia artificial puede analizar.Pero el criterio sigue siendo responsabilidad nuestra.Y quizá la pregunta más importante no sea qué tan inteligente será la inteligencia artificial…sino:¿qué está aprendiendo de nosotros?