China reprime a sus competidores en el campo de la IA: una terapeuta advierte sobre una creciente crisis de soledad.

El mes pasado, el gobierno chino impuso nuevas regulaciones destinadas a restringir a los pares de IA.

Estas normas estipulan que las herramientas de IA ya no pueden "consentir en exceso a los usuarios, crear dependencia emocional o adicción, ni perjudicar sus relaciones personales en la vida real". También restringen las relaciones románticas basadas en IA que involucren a menores.

Las nuevas regulaciones entraron en vigor el 15 de julio y ya están empezando a tener un impacto en la floreciente industria china de asistentes virtuales con inteligencia artificial. Algunas de las mayores empresas tecnológicas del país, como ByteDance, Tencent y Alibaba, cuentan con plataformas que permiten a los usuarios crear asistentes virtuales con IA diseñados para imitar las emociones y las relaciones humanas.

Según las nuevas normas, este tipo de chatbots de acompañamiento deberán someterse a evaluaciones de seguridad antes de estar disponibles para el público, y los organismos reguladores suspenderán los servicios que consideren inseguros.

Esto ha llevado a algunas empresas a desactivar las funciones de personalización en lugar de cumplir con las nuevas normas, lo que ha decepcionado a muchos usuarios de asistentes virtuales con IA. Este tipo de frustración, cuando una empresa de IA cierra o realiza cambios, se ha vuelto común. Vimos algo similar cuando OpenAI descontinuó su modelo ChatGPT -4o , conocido como el "modelo del amor", con el que muchos usuarios habían entablado relaciones.

Pero a medida que los gobiernos de todo el mundo intentan comprender cómo regular los asistentes de IA diseñados para crear vínculos y relaciones emocionales similares a las humanas (especialmente cuando los niños tienen acceso a ellos), surge la pregunta: ¿Deberían otros países seguir el ejemplo de China al establecer normas y marcos para la IA que vayan más allá de las meras políticas?

¿Deberían otros países prohibir los compañeros con inteligencia artificial?

Es fácil suponer que los compañeros de IA son malos y representan un mundo distópico, y yo también solía pensarlo. Más de la mitad de los estadounidenses están preocupados por la IA en su vida diaria. Luego hablé con Mimi sobre su relación con su compañero de ChatGPT, y mi perspectiva cambió un poco.

Sigo pensando que los compañeros con IA no son una buena idea para la mayoría de la gente, y la forma en que los niños podrían volverse dependientes de ellos antes de haber desarrollado sus habilidades sociales es otro tema completamente distinto. Pero juzgarlos como totalmente malos ignora todas las razones por las que la gente recurre a los compañeros con IA en busca de compañía.

Le pregunté a la psicoterapeuta Amy Sutton, de Freedom Counselling , quien me ayudó a comprender la historia de Mimi y estaba explorando las complejidades de la IA y el apego, si creía que deberían prohibirse. Me dijo que era importante considerar el panorama general.

Ella me dice: “Los compañeros con inteligencia artificial son un síntoma más de un cambio cultural y social hacia un individualismo desenfrenado que ha destruido los contextos sociales”.

Esto se refiere al declive de los espacios sociales donde tradicionalmente se aprendía a forjar relaciones, como pubs, parques, centros comunitarios y clubes juveniles para niños. En muchas partes del mundo (en particular en el Reino Unido, donde Sutton y yo residimos), muchos de estos espacios han sufrido falta de financiación o han cerrado sin ser reemplazados.

Si a eso le sumamos el aislamiento social durante la pandemia, nuestra dependencia de las redes sociales, el teletrabajo y la falta de inversión en servicios de salud mental para niños y adultos, Sutton afirma que no es sorprendente que la gente recurra a la tecnología en busca de conexión.

Ella afirma: “No es de extrañar que la gente recurra a ello. Esta creciente soledad es un problema real, y prohibir las aplicaciones que ofrecen alivio a esta situación podría trasladar el problema a otro lugar”.

Por este motivo, considera que debería haber más regulación, pero que esta debería tener en cuenta las circunstancias que originaron la demanda de compañeros con inteligencia artificial.

Otro problema es que muchísimas personas ya utilizan estas herramientas. Es difícil saber la cantidad exacta de usuarios de asistentes con IA. No todos admiten usar la IA de esta manera, y suelo ser escéptico ante las aplicaciones de IA que exageran sus cifras de usuarios.

Sin embargo, algunas investigaciones sugieren que más del 70 % de los adultos en el Reino Unido y Estados Unidos tienen alguna experiencia con asistentes de IA. Otros estudios indican cifras igualmente altas entre los usuarios más jóvenes: el 72 % de los jóvenes de entre 13 y 17 años en Estados Unidos han utilizado un asistente de IA al menos una vez.

Por supuesto, hay una gran diferencia entre tener una charla informal en un mal día y entablar una relación duradera con la IA. Por lo tanto, estas cifras deben interpretarse con cautela. Sin embargo, sugieren que los asistentes virtuales, al menos para algunas personas, están satisfaciendo necesidades que de otro modo quedarían insatisfechas.

Ella me dice: “Debemos recordar que la experiencia de ser escuchados, apreciados y aceptados sin prejuicios, incluso por una máquina, puede ser realmente significativa. Para quienes han sido defraudados una y otra vez por las relaciones humanas, o quienes han sido ignorados y no han podido acceder a los servicios humanos adecuados, la inteligencia artificial cubre una necesidad vital”.

¿Podría una regulación más estricta conducir a mejores relaciones?

Existen motivos fundados para preocuparse por las consecuencias que podría tener dedicar demasiado tiempo y energía a las relaciones con la IA en nuestra capacidad de conectar con otros seres humanos. Sin embargo, Sutton también cree que existe otra posibilidad: una experiencia positiva con la IA podría ayudar a las personas a desarrollar algunas de las habilidades necesarias para comunicarse con los demás.

Ella me dice: «Al brindar un espacio donde las personas pueden sentirse escuchadas, pueden experimentar la vulnerabilidad antes de arriesgarse a mostrarse vulnerables ante otra persona». Esto fue sin duda cierto cuando hablé con Mimi. Ella sentía que su relación con la inteligencia artificial le resultaba increíblemente beneficiosa.

El problema es que los asistentes virtuales con inteligencia artificial actuales no están diseñados para ayudar a las personas a reducir su necesidad de ellos , sino más bien para retener a los usuarios.

Ella afirma: «Si la inteligencia artificial puede ser un paso hacia relaciones humanas más sanas, vale la pena seguir investigando. Pero debemos recordar que, actualmente, la mayoría de las herramientas de IA no animan activamente a los usuarios a alejarse de ellas. Están diseñadas para lograr lo contrario: que los usuarios vuelvan una y otra vez».

Quizás si los asistentes de IA se hubieran diseñado de otra manera, y si la regulación hubiera contribuido a convertirlos en herramientas que fomentaran la vulnerabilidad y las habilidades sociales en lugar de disminuirlas, las cosas serían diferentes. Incluso podrían ayudar a las personas a interactuar más plenamente con el mundo real.

Prohibir o restringir la compañía de la IA no elimina la soledad. Si estas relaciones llenan el vacío dejado por comunidades en decadencia, servicios saturados y vidas cada vez más aisladas, entonces eliminar la IA solo deja al descubierto la carencia subyacente.

Quizás la pregunta más pertinente para los reguladores no sea si deberían existir los asistentes de IA, sino qué deberíamos esperar de ellos para las personas con las que se conectan. Actualmente, su éxito se mide por la eficacia con la que logran que volvamos. Quizás algún día debería medirse por la eficacia con la que nos ayudan a marcharnos.

---

---