Prevenir una catástrofe relacionada con la inteligencia artificial

En las próximas décadas se producirán avances sustanciales en inteligencia artificial, quizá hasta alcanzar el punto de que las máquinas lleguen a superar a los humanos en muchas o en todas las tareas. Esto podría generar enormes beneficios, ayudando a resolver problemas globales actualmente insolubles, pero también graves riesgos. Algunos de estos riesgos asociados a la IA avanzada podrían ser existenciales, es decir, podrían causar la extinción humana o una pérdida de poder igual de permanente y grave para la humanidad. Aún no se ha dado ninguna respuesta satisfactoria a las preocupaciones sobre cómo desarrollar e integrar en nuestra sociedad de forma segura esta tecnología transformadora. Encontrar respuestas a estas preocupaciones es algo muy desatendido, y puede que sea tratable. En consecuencia, la posibilidad de que se produzca una catástrofe relacionada con la IA puede ser el problema más apremiante del mundo y la mejor opción a la que podrían dedicarse quienes están en condiciones de contribuir a resolverlo.