PODCAST · society
Altruismo Eficaz
by Tlön
Repositorio exhaustivo de lecturas sobre altruismo eficaz, riesgo existencial e investigación sobre prioridades globales.
Episodes
-
Excéntricamente eficaz
La disposición del altruismo eficaz a tomarse en serio ideas aparentemente extrañas, cuando está moderada por el sentido común, constituye una parte importante del valor que el movimiento puede ofrecer. La mayor parte de lo que hace el movimiento no suscita controversia, como destinar cientos de...
-
La IA podría derrotarnos a todos juntos
¿Qué gravedad podría alcanzar la desalineación de la IA? Prácticamente la máxima posible.
-
El altruismo eficaz debería invertir en la promoción de la liberación animal y el cambio en la dieta
El altruismo eficaz ha acabado tratando las campañas de bienestar de los animales de granja como la opción estratégicamente seria y ha dejado de lado la liberación animal y la promoción del cambio de dieta por considerarlas enfoques que ya se intentaron y fracasaron. Friedrich sostiene que esa...
-
Un nuevo marco para los modelos de amenaza de la IAG
Richard Ngo sostiene que la distinción convencional entre el uso impropio de la IA y la desalineación carece de utilidad tanto a efectos técnicos como de gobernanza: a medida que los sistemas adquieren mayor capacidad de agencia, la forma de hacer un uso impropio de una IA consiste, en esencia…
more -
Cómo la IA podría provocar pandemias catastróficas
Panorámica de cómo los avances en IA y biología sintética están reduciendo las barreras técnicas para crear patógenos de nivel pandémico. Aunque los modelos de frontera estadounidenses han implementado salvaguardas para consultas biológicas de doble uso, los modelos chinos líderes ofrecen...
-
Conviértete en una persona que realmente hace cosas
La tercera entrada de una serie de reflexiones breves de Neel Nanda sobre la productividad y la agencia. Nanda argumenta que alcanzar objetivos exige no sólo planificar, sino la habilidad más difícil y a menudo pasada por alto de actuar sobre esos planes, y que muchas personas sufren una brecha...
-
Pérdida gradual de poder: Resumen
Resumen de la tesis del ``desempoderamiento gradual'': incluso sin un evento catastrófico de desalineación, la automatización incremental por IA de la producción económica, la producción cultural y la gobernanza podría erosionar silenciosamente la influencia que hoy da peso a las preferencias...
-
¿Qué es la alineación de la inteligencia artificial?
Este artículo explica los conceptos clave que surgen en el contexto de la alineación de la IA. Estos términos no son más que intentos de esbozar las ideas subyacentes, y la importancia radica precisamente en esas ideas. No existe un consenso estricto sobre qué nombre debe corresponder a cada…
more -
La inteligencia artificial está reavivando los temores en torno al bioterrorismo. ¿Cuál es el riesgo real?
A medida que los modelos de lenguaje de vanguardia mejoran su capacidad para responder a consultas químicas y biológicas, la preocupación por el bioterrorismo impulsado con IA ha vuelto a ocupar un lugar destacado en el debate general sobre seguridad. Basándose en el Informe Internacional sobre...
-
Las decisiones difíciles de revertir destruyen el valor de opción
Algunas decisiones estratégicas que puede tomar el movimiento del altruismo eficaz pueden ser difíciles de revertir. Un ejemplo es dotar a la imagen de marca del movimiento de un carácter explícitamente político. Otro es crecer hasta alcanzar un gran tamaño.
-
Los plazos "largos" para llegar a una IA avanzada se han acortado muchísimo
Las distinciones históricas entre plazos cortos y largos para el desarrollo de una inteligencia artificial de nivel humano se han desvanecido en gran medida, a medida que el consenso entre los expertos se inclina hacia el futuro cercano. Si bien los pronósticos sobre una IA avanzada en un plazo…
more -
Mis opiniones relativas a la IA
Hace poco tuve una pequeña discusión porque alguien malinterpretó mis opiniones sobre la IA, así que he pensado en recopilarlas todas en un solo sitio para poder remitir a la gente allí cuando me pregunten.
-
En busca de una visión dinámica para una IA sobrehumana y segura
Fomentar la creatividad, la asunción de riesgos y la competencia, sin perder de vista los riesgos
-
El tren a la ciudad de la locura
El razonamiento moral sincero puede conducir a conclusiones muy contraintuitivas o extremas, lo que suscita preocupaciones sobre el descuido de los intereses humanos inmediatos en favor de causas especulativas y la posible justificación de comportamientos fanáticos. Estos dos riesgos —la...
-
Cómo tomar decisiones relativas a la carrera profesional
¿Te sientes atascado a la hora de tomar una decisión relacionada con tu carrera profesional? Nos hemos basado en décadas de investigación en psicología cognitiva para encontrar un enfoque que realmente te ayude a avanzar.
-
Una carta personal sobre la IA transformadora
Los rápidos avances en inteligencia artificial, impulsados por el crecimiento exponencial del poder de cómputo y los datos de entrenamiento, indican que la inteligencia artificial podría automatizar pronto prácticamente todo el trabajo cognitivo y físico humano. Esta trayectoria apunta a una...
-
Investigación sobre macroestrategia
Descubre las oportunidades de carrera profesional en el ámbito de la investigación en macroestrategia de IA: las habilidades que necesitas, las principales empresas que contratan y cómo dar los primeros pasos en este campo con impacto.
-
Acciones de promoción para marcar el rumbo de la IA
Desde ejercer presión sobre los responsables de la toma de decisiones hasta movilizar a los movimientos de base, los defensores de la seguridad de la IA impulsan un cambio real.
-
Construir el campo de la seguridad de la IA
La seguridad de la IA necesita algo más que investigadores. Descubre las carreras profesionales en este sector en ámbitos como la comunicación, las operaciones y la estrategia, y descubre cómo dar tus primeros pasos en este campo en expansión.
-
Cómo la IA podría generar los mayores problemas del mundo
¿Podría ser el trabajo en los riesgos asociados a la IA la elección de carrera profesional con mayor impacto en la actualidad? Descubre por qué la IA puede provocar un cambio social rápido y drástico, y qué puedes hacer al respecto.
-
La seguridad de la IA puede ser un "asalto de Pascal" incluso si p(catástrofe) es alta
La clasificación de la seguridad de la IA como un «asalto de Pascal» suele basarse en un malentendido fundamental sobre la distinción entre riesgo de base e impacto marginal. En términos de la teoría de la decisión, la relevancia de una posible intervención no viene determinada por la…
more -
Los expertos en IA han acertado en muchas ocasiones
El escepticismo inicial sobre los riesgos asociados a la inteligencia artificial (IA) dentro del movimiento del altruismo eficaz solía calificar esas preocupaciones como distracciones especulativas que desviaban la atención de las prioridades filantrópicas establecidas, como la salud global y el...
-
Las enormes ventajas de eliminar los cuellos de botella: algunas experiencias personales
La productividad sistémica viene determinada exclusivamente por el componente más lento —o cuello de botella— de un proceso. Las mejoras en la eficiencia de los segmentos que no constituyen un cuello de botella no aumentan la producción total y, a menudo, provocan un desperdicio de recursos…
more -
Uso impropio catastrófico de la inteligencia artificial
Se prevé que la inteligencia artificial (IA) avanzada acelere los descubrimientos científicos a un ritmo sin precedentes, lo que podría condensar décadas de investigación en unos pocos años. Aunque beneficiosa para la medicina y la tecnología, esta rápida evolución corre el riesgo de ir más allá…
more -
Plazos amplios
La predicción de la llegada de la inteligencia artificial transformadora se caracteriza por una profunda incertidumbre, lo que hace que las estimaciones puntuales o los debates binarios del tipo «a corto plazo frente a largo plazo» resulten insuficientes para la planificación estratégica. Un...
-
Los mundos en los que resolvemos deliberadamente el problema de la alineación de la IA no se parecen al mundo en el que vivimos
Los esfuerzos actuales por garantizar la seguridad de la IA superinteligente carecen del rigor institucional y la seriedad técnica necesarios para mitigar el riesgo existencial, lo que sugiere una probabilidad de extinción humana de al menos el 25 % si se mantiene la trayectoria actual. A...
-
Cómo los bucles de realimentación impulsados por la IA podrían desatar el caos en muy poco tiempo
¿Qué ocurre cuando la IA pasa de ser una herramienta a convertirse en un trabajador? Analizamos los bucles de realimentación que podrían acelerar radicalmente el cambio tecnológico e industrial.
-
Usar la IA para mejorar la toma de decisiones sociales
El rápido avance hacia la inteligencia artificial general (IAG) requiere una mejora proporcional en la toma de decisiones sociales para hacer frente a situaciones cada vez más delicadas y plazos de desarrollo cada vez más ajustados. Las instituciones humanas suelen sufrir fallos epistémicos y...
-
Concentración extrema de poder
La tecnología avanzada de IA puede permitir a sus creadores, o a otras personas que la controlen, intentar y lograr una acumulación de poder social sin precedentes. En determinadas circunstancias, podrían utilizar estos sistemas para tomar el control de economías, ejércitos y gobiernos enteros....
-
Editar Wikipedia es una intervención importante, tratable y desatendida
Los artículos de Wikipedia son muy leídos y gozan de gran credibilidad; al mismo tiempo, muchos artículos, especialmente en campos especializados, están incompletos, desactualizados o mal redactados. Por lo tanto, mejorar los artículos de Wikipedia es una actividad con un gran impacto potencial,...
-
Por qué la IA podría resultar catastrófica: un argumento simple en cuatro pasos
Las principales empresas tecnológicas están desarrollando activamente sistemas de inteligencia artificial diseñados para superar el rendimiento humano en los ámbitos más importantes desde el punto de vista económico y militar. Estos sistemas están pasando de ser comparadores de patrones pasivos a...
-
Idea: la convención de la explosión de inteligencia
Se necesita un marco de gobernanza inmediato para gestionar los retos y riesgos asociados a la rápida «explosión de inteligencia» tecnológica impulsada por la IA avanzada. Este marco se centra en el establecimiento de una convención global que se activaría al definir un umbral específico y...
-
Contra el MAXIPOK: el riesgo existencial no lo es todo
El principio Maxipok, que afirma que maximizar la probabilidad de evitar una catástrofe existencial debe ser la prioridad absoluta para mejorar el futuro a largo plazo, se basa en una suposición implícita de dicotomía: que los resultados futuros son fuertemente bimodales, agrupándose en estados...
-
80.000 Horas cree que solo una pequeña proporción de personas debería ganar dinero para donar a largo plazo
Norman Borlaug no ganó millones, pero su investigación salvó millones de vidas. Uno de los errores más comunes que hemos encontrado sobre 80.000 Horas es que nos centramos exclusiva o predominantemente en ganar para donar. Esta entrada del blog tiene como objetivo dejar claro que esto no es así.…
more -
Tu donación puede cambiar la vida de alguien
Quizás pienses que una organización benéfica es algo que se hace con el dinero suelto que te sobra o apoyando a un amigo que participa en una carrera local. Así es como solíamos pensar, hasta que descubrimos lo mucho que se puede lograr con una pequeña donación a las organizaciones benéficas...
-
Por qué la objeción de la trivialidad no se aplica al altruismo eficaz
El principio fundamental del altruismo eficaz (EA, por sus siglas en inglés), es decir, el compromiso de maximizar el bien a través de la evidencia y la costo-eficacia, debe evaluarse en función de su impacto práctico y no de su trivialidad filosófica. Esta perspectiva desafía la opinión de que…
more -
No estar de acuerdo en lo que es eficaz no significa estar en desacuerdo con el altruismo eficaz
El altruismo eficaz se define como la adopción de medidas destinadas a beneficiar a los demás de la manera más óptima posible, basándose en evidencia y análisis minuciosos. El autor observa un malentendido entre quienes afirman estar en desacuerdo con el altruismo eficaz y lo que realmente…
more -
Inteligencia artificial autosuficiente
El autor sostiene que los debates sobre si «ya tenemos IAG» son improductivos y propone en su lugar un hito más claro y consecuencialista: una población de IA totalmente autosuficiente que pueda sobrevivir, reproducirse y crecer indefinidamente sin los seres humanos, lo que, en su opinión, es...
-
Tres dudas sobre el veganismo
Una evaluación crítica de la identidad vegana sugiere que sus características definitorias obstaculizan el crecimiento y la eficacia del movimiento de defensa de los animales. La crítica principal se basa en tres características. En primer lugar, el veganismo es muy maximalista, ya que se define...
-
Si el bienestar de los animales salvajes es un problema irresoluble, entonces todo es irresoluble
El bienestar de los animales salvajes se enfrenta a frecuentes problemas de tratabilidad, lo que equivale a la idea de que los ecosistemas son demasiado complejos como para intervenir en ellos sin causar daños. Sin embargo, sospecho que estas preocupaciones reflejan criterios de justificación...
-
Cómo hacer tu plan de carrera profesional
Unirse a una comunidad es una estrategia muy eficaz para avanzar en la carrera profesional y amplificar el impacto positivo de cada uno, superando los beneficios de las redes de contactos convencionales. El valor proviene de la dinámica colaborativa que permite a los grupos lograr más que la suma...
-
Cómo no perder tu trabajo por culpa de la IA
Aproximadamente la mitad de las personas temen perder su empleo a causa de la IA. Y tienen motivos para estar preocupadas: la IA ya es capaz de realizar tareas de programación en el mundo real en GitHub, generar vídeos fotorrealistas, conducir un taxi con más seguridad que los humanos y realizar...
-
Una de las formas más poderosas de mejorar tu carrera profesional: unirte a una comunidad
Este resumen ya es breve y conciso. Para acortarlo aún más, podríamos eliminar la comparación con las redes y limitarse a indicar la ventaja clave de la tecnología: «Esta tecnología es significativamente más rápida». Sin embargo, esto resta impacto a la afirmación original. Una forma más eficaz…
more -
Gran lista de candidatos a causa
En los últimos años, se han publicado docenas de entradas sobre posibles nuevas áreas de trabajo, causas e intervenciones de EA. La búsqueda de nuevas causas parece una iniciativa loable, pero por sí solas, las propuestas pueden resultar bastante dispersas y caóticas. Recopilar y clasificar estos...
-
Mis conclusiones sobre IA 2027
La transición a la superinteligencia puede ser un proceso rápido, «solo de software», que podría producirse en un solo año debido al progreso algorítmico compuesto, independiente de las limitaciones de poder de cómputo. Este rápido despegue crea un período de intensa inestabilidad geopolítica, ya...
-
El altruismo eficaz en la era de la IAG
El movimiento del altruismo eficaz (EA) se encuentra en una encrucijada, lo que ha dado lugar a una propuesta para avanzar por una «tercera vía». En lugar de considerarse un movimiento heredado o centrarse estrictamente en causas tradicionales como la salud global y el bienestar animal, el EA...
-
Planes A, B, C y D para el riesgo de desalineación
Este artículo describe un marco de cinco planes estratégicos (A-E) para mitigar el riesgo de desalineación de la IA, caracterizados por la disminución de los niveles de voluntad política necesarios y los plazos correspondientes para el trabajo de seguridad. El plan A, que exige una fuerte...
-
Por qué creo que desarrollar el altruismo eficaz es importante para hacer que la IA tenga un impacto benéfico
Promover las ideas del altruismo eficaz (EA) y la participación de la comunidad es una estrategia valiosa para orientar el desarrollo de la inteligencia artificial general avanzada (IAG) y garantizar que «funcione bien». Este enfoque se basa en tres argumentos clave. En primer lugar, la...
-
Cómo encontrar la carrera profesional adecuada para ti
En general, los enfoques tradicionales de exploración de carreras profesionales, como las pruebas de aptitud y los años sabáticos, no constituyen una orientación eficaz. En lugar de confiar en esos métodos anticuados, las personas deberían adoptar un enfoque más proactivo y personalizado. Por...
-
La gran idea: ¿cómo podemos vivir éticamente en un mundo en crisis?
Este artículo utiliza la analogía de una zona de conflicto caótica para ilustrar la naturaleza omnipresente del sufrimiento global y la obligación moral de abordarlo de manera eficaz. La vida cotidiana ofrece numerosas oportunidades para aliviar el sufrimiento, análogas a encontrarse con personas...
We're indexing this podcast's transcripts for the first time — this can take a minute or two. We'll show results as soon as they're ready.
No matches for "" in this podcast's transcripts.
No topics indexed yet for this podcast.
Loading reviews...
ABOUT THIS SHOW
Repositorio exhaustivo de lecturas sobre altruismo eficaz, riesgo existencial e investigación sobre prioridades globales.
HOSTED BY
Tlön
CATEGORIES
Loading similar podcasts...
Frequently Asked Questions
How many episodes does Altruismo Eficaz have?
Altruismo Eficaz currently has 175 episodes available on PodParley. New episodes are automatically indexed when they're published to the podcast feed.
What is Altruismo Eficaz about?
Repositorio exhaustivo de lecturas sobre altruismo eficaz, riesgo existencial e investigación sobre prioridades globales.
How often does Altruismo Eficaz release new episodes?
Altruismo Eficaz publishes regularly with 175 episodes available. Check the episode list for the typical release schedule.
Where can I listen to Altruismo Eficaz?
You can listen to Altruismo Eficaz on PodParley by clicking any episode. We provide an embedded audio player for direct listening, and you can also subscribe via your preferred podcast app using the RSS feed.
Who hosts Altruismo Eficaz?
Altruismo Eficaz is created and hosted by Tlön.
URL copied to clipboard!