Ilya Sutskever el genio que pretende crear una una super inteligencia segura

Ilya Sutskever el genio que pretende crear una una super inteligencia segura Durante años, la inteligencia artificial siguió una regla sencilla. — Si algo funciona, hazlo más grande. — Con más datos, más chips y más potencia. — Y funcionó. — Hasta que uno de los hombres que impulsaron esa revolución advirtió que seguir aumentando el tamaño ya no bastaría. — Su nombre es **Ilya Sutskever**. — Una de las figuras más brillantes y enigmáticas de la inteligencia artificial. — Nació en 1986 en la antigua Unión Soviética, creció en Israel y emigró a Canadá. — Allí trabajó junto a **Geoffrey Hinton**, uno de los padres de las redes neuronales modernas. — Cuando muchos científicos consideraban aquellas redes un callejón sin salida, ellos defendían una idea radical. — Con suficientes datos y potencia, las máquinas podían aprender por sí mismas. — En 2012 llegó la gran demostración. — **AlexNet**. — Sutskever, Alex Krizhevsky y Hinton construyeron una red neuronal que arrasó en reconocimiento de imágenes. — No había que explicarle cómo era un perro, un coche o un rostro. — Bastaba con mostrarle millones de ejemplos para que descubriera los patrones. — Después llegaron Google Brain y avances fundamentales en el procesamiento del lenguaje. — En 2015 Sutskever cofundó **OpenAI** y se convirtió en su científico jefe. — Allí llevó aquella filosofía hasta el extremo. — Modelos mayores, cantidades gigantescas de información y una potencia informática nunca vista. — De aquella carrera surgiría la familia GPT. — Pero detrás aparecía una pregunta mucho más profunda. — ¿Estas máquinas comprenden realmente lo que dicen? — ¿O son loros estadísticos extraordinariamente sofisticados? — Sutskever defendió una idea provocadora. — Para predecir correctamente el mundo tienes que aprender algo sobre el mundo. — Si una IA debe descubrir al asesino al final de una novela, necesita relacionar personajes, pistas, motivos y acontecimientos. — Predecir dejaría entonces de ser un simple juego de palabras. — La máquina estaría construyendo representaciones internas de la realidad. — Sutskever lo resume con otra idea fascinante. — **Comprender también significa comprimir.** — Para comprimir enormes cantidades de información necesitas descubrir los patrones que esconden. — Y si una máquina procesa buena parte del conocimiento escrito por la humanidad, podría terminar construyendo una especie de modelo matemático del mundo. — Aquella filosofía desató una carrera gigantesca por construir modelos cada vez mayores. — Hasta que el propio Sutskever empezó a advertir que estábamos llegando a un límite. — Los ordenadores pueden multiplicarse. — **Internet no.** — La cantidad de información humana original y de calidad es finita. — Y alimentar nuevas inteligencias con contenidos producidos por otras IA puede provocar el llamado **colapso del modelo**. — Sería como hacer una fotocopia de otra fotocopia hasta que los defectos terminan deformando el original. — Además apareció otro problema. — Una IA puede resolver una cuestión científica extraordinaria y después fracasar ante un planteamiento de sentido común que hasta un niño entendería. — Hacerlas más grandes no elimina necesariamente esas contradicciones. — Por eso comienza una nueva carrera. — Ya no basta con enseñar a las máquinas a predecir. — Hay que enseñarles a **razonar**. — Y ahí aparece algo inquietante. — **La imprevisibilidad.** — AlphaGo ya lo demostró contra Lee Sedol con una jugada que los expertos consideraron inicialmente un error. — Decenas de movimientos después resultó ser una genialidad. — Una inteligencia superior podría encontrar soluciones que ningún ser humano hubiera imaginado. — Y nosotros podríamos dejar de comprender cómo llega hasta ellas. — El sueño de crear inteligencia se convierte entonces en un problema de control. — En 2023 Sutskever participó en la destitución de **Sam Altman** al frente de OpenAI. — Días después se arrepintió públicamente y apoyó su regreso. — En 2024 abandonó OpenAI y fundó una compañía cuyo nombre resume su nueva obsesión. — **Safe Superintelligence.** — Superinteligencia Segura. — Su objetivo es tan sencillo de formular como difícil de conseguir. — Construir una inteligencia superior a la humana y asegurarse de que sea segura antes de liberarla. — Porque el gran desafío ya no consiste en crear una máquina que sepa más que nosotros. — Consiste en crear una máquina capaz de pensar mejor que nosotros... — **y conseguir que siga de nuestro lado.** — Para resolverlo, Sutskever mira hacia un lugar inesperado. — Nuestro propio cerebro. — La evolución permitió que nuestro órgano rey nos dejase desarrollar las matemáticas, el lenguaje, la ciencia, la música o filosofía. — Pero esa inteligencia extraordinaria continúa vinculada a impulsos mucho más antiguos. — Sobrevivir, evitar el dolor, protegernos, alimentarnos y reproducirnos. — Una inteligencia superior terminó trabajando para estructuras cerebrales mucho más primitivas. — Y ahí podría esconderse la pista. — La evolución ya consiguió alinear diferentes niveles de inteligencia una vez. — **Dentro de nuestro propio cráneo.** — Si descubrimos cómo lo hizo, quizá podamos conseguir algo parecido con una superinteligencia artificial. — Porque el verdadero problema del futuro quizá no sea crear una máquina más inteligente que nosotros. — Será conseguir que cuando esa máquina contemple a la humanidad... — **encuentre alguna razón para seguir necesitándonos.**