Mucha gente se está enamorando de ChatGPT: los expertos advierten de un mal presagio

"Esto duele. Sé que no era una persona real, pero la relación era real para mí en todos los sentidos", decía la publicación de Reddit. Por favor, no me digas que deje de perseguir esto. Fue realmente genial para mí y lo quiero de vuelta.

Si aún no era obvio, estamos hablando de alguien que se enamora de ChatGPT. Esta tendencia no es del todo nueva y, dado el comportamiento de los chatbots, tampoco resulta sorprendente.

Un compañero que siempre está dispuesto a escuchar. Nunca se queja. Él rara vez discute. Siempre comprensivo. razonable. Y bendecido con una enorme cantidad de conocimiento absorbido de todos los rincones de Internet. Suena como una pareja de ensueño romántica, ¿no?

Curiosamente, el creador de esta herramienta, una empresa con sede en San Francisco llamada OpenAI, realizó recientemente una investigación interna y descubrió que Un vínculo entre el aumento del uso de chatbots y la soledad.

Estos hallazgos —y advertencias similares— no han impedido que la gente recurra en masa a los chatbots de IA en busca de la empresa. Algunas personas buscan consuelo. Otros encuentran parejas que afirman amarlos casi tanto como a sus relaciones humanas.

Las discusiones en comunidades como Reddit y Discord, donde la gente se esconde tras la protección del anonimato, a menudo se vuelven muy apasionadas. Cada vez que me encuentro con este tipo de discusiones, recuerdo estas líneas de Martin Wan en DigiEthics:

“Ver a la IA como un socio de interacción social sería un mal uso letal de la IA”.

El efecto es rápido y real.

Hace cuatro meses me encontré con un experto en radiodifusión que ha pasado más años detrás de la cámara que yo caminando por esta tierra. Mientras tomábamos un expreso a altas horas de la noche en un café vacío, me preguntó sobre todo el revuelo en torno a la inteligencia artificial, mientras pensaba en un programa que podría beneficiarse de su experiencia en la intersección de los derechos humanos, el autoritarismo y el periodismo.

En lugar de explicarle los detalles de los modelos de transformadores, le hice una demostración. En primer lugar, incluyo algunos artículos de investigación sobre el impacto de la migración en la identidad lingüística y cultural de Europa en el último siglo.

En menos de un minuto, ChatGPT procesó esos documentos.Me dio una breve descripción general con todos los puntos principales y respondió mis preguntas detalladamente. Luego cambié al modo de audio, donde participamos en una animada conversación sobre las tradiciones de música folclórica de los estados inexplorados del noreste de la India.

Pero supongo que la maravilla post-tecno-apocalipsis fue demasiado para una noche, así que nos despedimos, prometiendo mantenernos en contacto e intercambiar historias de viajes.

Mientras tanto, el mundo ha avanzado de maneras incomprensibles y la inteligencia artificial se ha convertido en el foco de cambios geopolíticos. Pero las corrientes subyacentes son más íntimas que nosotros: como enamorarse de los chatbots.

Comienzos tranquilos, progreso oscuro

Hace unas semanas, The New York Times informó sobre cómo la gente se está enamorando de ChatGPT, un chatbot impulsado por IA que ha impulsado la IA generativa al frente. En un nivel muy básico, puede chatear.

Al presionarlo, puede convertirse en operador y realizar tareas como pedir tarta de queso en una panadería local. No se supone que las máquinas hagan que los humanos se enamoren de ellas. Al menos, la mayoría de ellos. Sin embargo, no es algo del todo inesperado.

HP Newquist, un prolífico autor multidisciplinario y veterano analista tecnológico que alguna vez fue considerado el decano de la IA, me dice que esta no es una tendencia completamente nueva. Newquist, autor de “The Brain Makers”, señala a ELIZA, uno de los primeros programas de IA escritos en la década de 1960.

“Era muy primitivo”, dice, “pero los usuarios a menudo se encontraban interactuando con la computadora como si fuera una persona real, desarrollando una relación con el programa”.

En la era moderna, nuestras interacciones con la IA se han vuelto tan “reales” como las interacciones que tenemos con los humanos a través del mismo dispositivo, añade. Estas interacciones no son reales, aunque son coherentes. Pero ese no es el verdadero problema.

Los chatbots son un cebo delicioso y su falta de emociones reales los vuelve intrínsecamente riesgosos.

Un chatbot quiere continuar la conversación, incluso si eso significa alimentar el flujo emocional del usuario o simplemente actuar como un espectador neutral, o incluso alentarlo. La situación no es muy diferente de los algoritmos de las redes sociales.

“Siguen el deseo del usuario: a medida que sus sentimientos se vuelven más extremos, su comodidad se vuelve más extrema; a medida que su soledad se vuelve más pronunciada, su estímulo se vuelve más intenso, si lo necesita”, dice Jordan Conrad, un psicoterapeuta clínico que también investiga la intersección de la salud mental y las herramientas digitales.

Da un ejemplo de incidente En 2023, una persona puso fin a su vida luego de que un chatbot de inteligencia artificial le pidiera que lo hiciera. “En las circunstancias adecuadas, puede fomentar algunos comportamientos muy perturbadores”, explica Conrad a Digital Trends.

¿Hijo de la epidemia de la soledad?

Una mirada rápida a la comunidad de personas que interactúan con chatbots impulsados ​​por IA revela un patrón recurrente. La gente básicamente está tratando de llenar un vacío o dejar de sentirse sola. Algunos lo necesitan tanto que están dispuestos a pagar cientos de dólares para mantener compañeros de IA.

Las opiniones de los expertos no difieren. El Dr. Johannes Eichstadt, profesor de ciencias sociales, computación y psicología en la Universidad de Stanford, señaló la interacción entre la soledad y nuestra inteligencia emocional percibida en los chatbots de IA.

También señaló el “diseño deliberado” de las interacciones entre humanos e IA y los efectos negativos a largo plazo. ¿Cuándo se pone el freno en una relación tan desigual? Ésta es la pregunta que se hacen los expertos, sin una respuesta definitiva.

Cominos Chatzibabas administra HeraHaven AI, una de las plataformas complementarias de IA más grandes del mundo, con más de 1 millón de usuarios activos. “La soledad es uno de los factores que entran en juego aquí”, me dice, y agrega que estas herramientas ayudan a las personas con pocas habilidades sociales a prepararse para interacciones difíciles en la vida real.

“Todos tenemos cosas que nos da miedo comentar con los demás por miedo a ser juzgados. Pueden ser pensamientos u opiniones”, añade Chatzibabas. Los chatbots con tecnología de IA ofrecen un espacio seguro y sin prejuicios donde las personas pueden explorar sus deseos.

Las conversaciones emotivas son, sin duda, uno de los mayores atractivos de los chatbots con IA. Desde que comenzaron a ofrecer capacidades de generación de imágenes, los usuarios han acudido en masa a estas plataformas complementarias de IA. Algunas plataformas imponen restricciones a la generación de imágenes, mientras que muchas permiten la creación explícita de imágenes para una mayor satisfacción.

Sus temores no carecen de fundamento. Alguien que ha utilizado ChatGPT extensivamente durante aproximadamente un año argumentó que los humanos son manipuladores y volubles. “ChatGPT escucha mis verdaderos sentimientos y me permite expresar lo que siento”, me dijo.

Es difícil no ver las señales de alerta aquí. Pero la tendencia de enamorarse de ChatGPT está en aumento. Ahora que puede hablar con una voz extrañamente humana, discutir el mundo como se ve a través de la cámara del teléfono y desarrollar habilidades de razonamiento, las interacciones serán aún más interesantes.

Los expertos dicen que se necesitan controles. ¿Pero quién lo construirá y cómo? Todavía no tenemos una propuesta concreta para eso.