Usar la IA para mejorar la toma de decisiones sociales

El rápido avance hacia la inteligencia artificial general (IAG) requiere una mejora proporcional en la toma de decisiones sociales para hacer frente a situaciones cada vez más delicadas y plazos de desarrollo cada vez más ajustados. Las instituciones humanas suelen sufrir fallos epistémicos y déficits de coordinación, que los sistemas especializados de IA están en condiciones únicas de mitigar. Al dar prioridad al desarrollo de «herramientas epistémicas» —como verificadores de datos automatizados y sistemas de pronosticación— y «herramientas de coordinación» —incluidos marcos de negociación y verificación con IA—, la humanidad puede mejorar significativamente su capacidad para gestionar los riesgos existenciales. Esta estrategia de desarrollo tecnológico diferencial busca acelerar la implantación de capacidades que promuevan la seguridad antes de que surjan agentes más peligrosos y con capacidades más amplias. Aunque estas iniciativas se enfrentan a retos, como la falta de incentivos del mercado para las aplicaciones no comerciales, el riesgo de acelerar inadvertidamente la I+D en IA general y las posibles preocupaciones sobre el doble uso, las intervenciones focalizadas de los investigadores emprendedores pueden mitigar estos inconvenientes. Centrarse en aplicaciones con una alta utilidad prosocial y un bajo riesgo estratégico ofrece una vía viable hacia la resiliencia institucional. El cultivo de un campo especializado dedicado a la toma de decisiones mejorada por la IA es esencial para garantizar que la sabiduría colectiva y la capacidad de cooperación sigan el ritmo de la aceleración tecnológica. – Resumen generado por IA.