Character.AI tranquiliza a los padres con una nueva función para proteger a los niños

Character.AI, el popular servicio de chatbot de inteligencia artificial, ha agregado Parental Insights, una nueva función de seguridad que permite a los padres ver informes sobre la actividad de sus hijos en la plataforma.

Esta nueva característica de seguridad, anunciada por la compañía en entrada en el blog Los martes, los padres reciben una descripción general semanal de cómo sus hijos adolescentes pasan su tiempo en Character.AI. Más específicamente, Parental Insights informará a los padres sobre el tiempo diario promedio que sus hijos pasan en la aplicación, con qué personajes hablan más a menudo y la cantidad de tiempo que pasan con cada personaje. Sin embargo, la descripción general no revelará el contenido de las conversaciones del chatbot, ya que son privadas.

Los usuarios adolescentes menores de 18 años tienen la opción de compartir sus estadísticas de Character.AI con sus padres o tutores en la configuración de la aplicación, simplemente agregando sus direcciones de correo electrónico y enviándoles una invitación para verlas. No es necesario que los padres tengan una cuenta Character.AI para ver las estadísticas de uso semanales de sus hijos adolescentes.

La función Parental Insights llega en medio de una serie de funciones agregadas para abordar las preocupaciones de los padres sobre los niños que pasan demasiado tiempo en Character.AI y varias demandas que alegan contenido dañino al que estuvieron expuestos en el servicio, que va desde contenido sexual inapropiado hasta Mensajes que incitan a la autolesión. En respuesta a estas quejas, Character.AI ha actualizado la plataforma. Transferir a usuarios menores de edad a un modelo de IA diseñado para no proporcionar contenido sensible o sugerente., detectar e intervenir en cualquier violación de las Pautas del Servicio y enviarles notificaciones si pasan una hora en Character.AI. Incluso implementaron descargos de responsabilidad dentro del chat y en las listas de la tienda de aplicaciones para recordar a los usuarios que los personajes de IA con los que interactúan no son reales y que todo lo que dicen es inventado.

Padres, si ven un correo electrónico de Character.AI invitando a su hijo adolescente a ver sus estadísticas de actividad semanal para los próximos días, tómenlo como una señal de confianza. Sus informes pueden brindarle cierta tranquilidad al saber que quieren guiarlo sobre cómo usar su tiempo en la aplicación de manera inteligente.