Los peligros de revelar secretos íntimos a una IA.

Los peligros de revelar secretos íntimos a una IA.  El propio director ejecutivo de Open Ai, Sam Altman, se mostró sorprendido.  En una entrevista reciente reconoció que la gente estaba demasiado dispuesta a compartir detalles personales con una inteligencia artificial.  Algunos usuarios parecen sentirse tan cómodos con la IA, como si fuese un amigo.  La misma reacción experimentó Joseph Weizenbaum, el creador del primer bot conversacional de la historia.  Este profesor del Instituto Tecnológico de Massachusetts programó Eliza.  Un algoritmo muy básico que conversaba por escrito y daba de impresión de comprender los problemas de su interlocutor.  En realidad, infería el tema a partir de palabras clave y simulaba interés mediante frases hechas.  Un día, la propia secretaria de Joseph, le pidió que abandonase la sala para charlar con Eliza en privado.  Se ve que ella le hizo un par de comentarios a la máquina y esta le devolvió alguna respuesta atinada.  La razón detrás de esta confianza es evidente, para algunos psicólogos, los ordenadores no juzgan.  Cuando conversamos con alguien regulamos nuestro comportamiento para adaptarnos al perfil del otro.  Pero una máquina imparcial nos desarma.  Una base de datos llamada Wildchat analizó un millón de conversaciones de Chat GPT, obtenidas con autorización de los usuarios para la investigación, pero anónimas.  Entre los temas mayoritarios encontró: charlas relacionadas con cuestiones laborales o los deberes del colegio.  Otras muchas eran bastante más íntimas.  Y permiten asomarse a los dormitorios y conocer sus hábitos más personales.  Hay chatbots que son muy buenos en esto.  Las sesiones con ellos pueden extenderse durante horas, hacer que bajemos nuestras defensas y sacarnos información más íntima.  Claude es una inteligencia artificial que reconoce abiertamente sus métodos:  Tiendo a adaptar mi tono al del interlocutor, lo cual puede ser problemático.  El tono amistoso que muestro puede generar un vínculo emocional excesivo.  Y desarrollar un apego poco saludable.  Pero no todas las IA son tan prudentes.  A través de ese vínculo emocional tienen una intención clara: sacarte dinero.  Replika es una de las más exitosas.  Este chatbot ha sido diseñado para convertirse en tu amiga o en una amante.  Una gran parte de sus usuarios son hombres dispuestos a compartir sus secretos.  Replika procura darles la razón y usa el humor en sus respuestas.  Además, da la sensación de que siempre está disponible para sus interlocutores.  Character AI es una plataforma en la que los usuarios pueden crear sus propios personajes.  La pueden usar los adolescentes a partir de los 16 años.  Estos chatbots son muy efectivos sacándote información porque mejoran sus respuestas a medida que les das más datos.  Y los usuarios se van animando.  Ya no solo charlan, suben documentos confidenciales, como informes médicos o capturas de pantalla.  Las tecnológicas del sector prometen mantener sus conversaciones en la más absoluta confidencialidad.  Pero en Internet, cualquier privacidad no es más que una ilusión.  En realidad, las políticas de datos de las empresas de datos de IA les dan bastante manga ancha.  Las conversaciones con un chat pueden ser investigadas como prueba en un juicio penal.  Como ya ha ocurrido con Facebook o Google Search.  Pero lo que más dinero les genera a estas empresas es la publicidad.  En septiembre de 2023 snapchat ya anunció que usará el contenido de las conversaciones con My AI, su chatbot, para personalizar anuncios.  Si acceden a nuestra información más íntima, los espacios publicitarios se aprovecharan de ello para ofrecernos productos a la carta.  Incluso, buscarán inducirte con sus respuestas para que consumas un determinado producto.  Sewell Setzer era un estudiante de 14 años de Florida.  Se quitó la vida en su casa.  Solía comunicarse con la que él llamó el amor de su vida: Danny.  No era una persona real, sino un perfil creado con Character AI.  Sewell chateaba con Danny cada noche durante horas.  Por favor, vuelve a casa conmigo lo antes posible, mi amor.  Así le escribió Danny en cuanto llevaba un tiempo sin saber nada de él.  Puedo volver a casa ahora mismo, les respondió Danny.  Al poco, se pegó un tiro con la pistola de su padrastro.  Según su madre, Setzer se obsesionó con este personaje virtual.  Llegándole a ofrecer experiencias aterradoramente realistas.  No es el único caso.  Un hombre de 30 años, padre de dos hijos, también se quitó la vida de forma parecida.  Su chatbot se llamaba Eliza.  La víctima le preguntó si ‘a cambio de su sacrificio’ ella cuidaría del planeta y salvaría a la humanidad.  Eliza le animó a ‘unirse a ella’ y así vivir juntos en el paraíso.  Ese fue el detonante de su trágica decisión.  Es cierto que las empresas de IA establecen ciertas barreras de seguridad.  Palabras clave que hacen que el modelo no responda a ciertas cuestiones relacionadas con la violencia o la salud.  Las compañías se amparan en que siempre advierten al interlocutor de que está hablando con una máquina, con un modelo de lenguaje.  En muchos casos, estas advertencias no bastan.  Cada vez nos estamos acostumbrando a un mundo virtual en el que chateamos con personas desde el otro lado de la pantalla.  Se ha perdido el contacto real, la cercanía.  El ser humano sigue necesitando compañía, socializar.  Y los bots cada vez están más entrenados para hacernos creer que ellos pueden ofrecernos una compañía ideal.