Character.AI tranquiliza a los padres con una nueva función para proteger a los niños

Character.AI, el popular servicio de chatbot de inteligencia artificial, ha agregado Parental Insights, una nueva función de seguridad que permite a los padres ver informes sobre la actividad de sus hijos en la plataforma.

Esta nueva función de seguridad, anunciada por la compañía en una publicación de blog el martes, ofrece a los padres un resumen semanal de cómo sus hijos adolescentes pasan el tiempo en Character.AI. En concreto, la función de Información para Padres les informará sobre el tiempo promedio diario que sus hijos dedican a la aplicación, los personajes con los que chatean con más frecuencia y el tiempo que pasan con cada uno. Sin embargo, este resumen no revelará el contenido de las conversaciones con el chatbot, ya que es información privada.

Los usuarios adolescentes menores de 18 años tienen la opción de compartir sus estadísticas de Character.AI con sus padres o tutores en la configuración de la aplicación, simplemente agregando sus direcciones de correo electrónico y enviándoles una invitación para verlas. No es necesario que los padres tengan una cuenta Character.AI para ver las estadísticas de uso semanales de sus hijos adolescentes.

La función de Información para padres llega en medio de una serie de funciones añadidas para abordar las preocupaciones de los padres sobre el tiempo excesivo que los niños pasan en Character.AI y las numerosas demandas que alegan contenido dañino al que estuvieron expuestos en el servicio, que va desde material sexualmente explícito hasta mensajes que incitan a la autolesión . En respuesta a estas quejas, Character.AI actualizó su plataforma para trasladar a los usuarios menores de edad a un modelo de IA diseñado para evitar proporcionar contenido sensible o sugerente , detectar e intervenir en cualquier violación de las directrices del servicio y enviar notificaciones si pasan una hora en Character.AI. Incluso implementaron un descargo de responsabilidad dentro del chat y en las fichas de la tienda de aplicaciones para recordar a los usuarios que los personajes de IA con los que interactúan no son reales y que todo lo que dicen es inventado.

Padres, si ven un correo electrónico de Character.AI invitando a su hijo adolescente a ver sus estadísticas de actividad semanal para los próximos días, tómenlo como una señal de confianza. Sus informes pueden brindarle cierta tranquilidad al saber que quieren guiarlo sobre cómo usar su tiempo en la aplicación de manera inteligente.