ChatGPT Health ya está disponible para todos: ¿Por qué no confío en él?

OpenAI anunció hoy que ChatGPT Health ya está disponible para todos los usuarios mayores de 18 años, en todos los planes, incluida la versión gratuita. Más allá de mi escepticismo general sobre los consejos de salud basados ​​en IA, veo razones de peso para evitar por completo esta versión de ChatGPT Health, incluyendo una disminución significativa de la privacidad en comparación con la configuración original del servicio.

ChatGPT Health te permite vincular tu historial médico o tus datos de Apple Health con el bot. OpenAI asegura que el bot solicitará permiso para acceder a tus datos de salud durante las conversaciones y que no sustituye a un médico, sino que su objetivo es ofrecerte consejos o ayudarte a interpretar tu información médica. Sin embargo, a pesar de estas advertencias (y del gráfico del anuncio que sugiere que ChatGPT Health obtiene mejores resultados que los médicos reales), personalmente veo varias señales de alerta.

Los niveles de protección de la privacidad están disminuyendo.

Cuando OpenAI anunció por primera vez su "experiencia de salud personalizada", uno de sus principales argumentos de venta fue que las conversaciones en la sección de salud no se utilizarían para entrenar la IA en el futuro, y que esas conversaciones se mantendrían separadas de todas las demás.

Pero las reglas han cambiado. OpenAI ahora indica que tu información de salud vinculada no se utilizará para entrenar la IA, y solo las conversaciones que utilicen dicha información se clasificarán como conversaciones de salud. Esto significa que si ChatGPT lee un diagnóstico de tu historial médico, tu conversación estará protegida. Sin embargo, si no vinculas tu historial médico y simplemente quieres contarle a ChatGPT tu diagnóstico con tus propias palabras, no se considerará una conversación de salud.

Esto también significa que la única forma de acceder a las protecciones de privacidad que ofrece ChatGPT Health es compartir tus datos de salud con OpenAI. Como la empresa declaró en su anuncio: “Puedes hacer preguntas sobre salud en ChatGPT sin vincular nada. Para usar las funciones de Salud y obtener respuestas basadas en tu propia información, puedes optar por vincular Apple Health, registros médicos respaldados por sistemas hospitalarios de EE. UU., One Medical o Function Health”. Las conversaciones que impliquen la vinculación de datos estarán protegidas por la privacidad, mientras que otras no. Esta política plantea serias preocupaciones sobre la privacidad de los datos de salud, un tema que ya hemos tratado en relación con las aplicaciones de seguimiento del ciclo menstrual.

OpenAI afirma que ChatGPT es superior a los médicos, pero no estoy convencido.

OpenAI promociona sus puntuaciones en HealthBench para sugerir que ChatGPT es eficaz a la hora de ofrecer consejos médicos. Sin embargo, como he mencionado en artículos anteriores, los modelos de lenguaje a gran escala (LLM, por sus siglas en inglés), como ChatGPT, no ofrecen consejos médicos fiables y no se debe confiar en ellos. Estudios previos han demostrado que, incluso cuando estos modelos proporcionan respuestas "correctas" a preguntas de salud cuidadosamente formuladas, las conversaciones en contextos reales a menudo se desvían del tema principal.

HealthBench parece adolecer de las mismas limitaciones. OpenAI señala que médicos reales establecieron criterios para evaluar las respuestas y los utilizaron para analizar las respuestas de diversos modelos ChatGPT, así como las de sus colegas. Curiosamente, los resultados mostraron que los modelos ChatGPT de pago obtuvieron puntuaciones más altas que los gratuitos, los cuales, a su vez, superaron el desempeño de los médicos reales.

Pero esto no significa que el chatbot sea realmente confiable. Una revisión del marco de trabajo HealthBench señala que las pruebas no representan conversaciones reales y pueden "pasar por alto expresiones idiomáticas, cambios de tema y preocupaciones inesperadas del paciente". Otra limitación importante es que HealthBench solo prueba conversaciones cortas, un enfoque que "impide la evaluación de flujos de trabajo a largo plazo y resultados multidisciplinarios", como conversaciones de la vida real que podrían ser extensas o abarcar otros temas.

Las personas que buscan consejos de salud en ChatGPT no realizan pruebas específicas y focalizadas sobre sus recomendaciones, por lo que las respuestas del Modelo de Lenguaje a Gran Escala (LLM) no serán necesariamente similares a las evaluadas en HealthBench. OpenAI es plenamente consciente de esto y destaca en sus anuncios la frecuencia con la que las personas hacen preguntas sobre salud en conversaciones cotidianas.

Estas son solo las limitaciones del marco de HealthBench, incluso antes de profundizar en los detalles. Los autores del artículo que cité anteriormente señalan que el material de prueba no incluía suficientes enfermedades raras para determinar el rendimiento del modelo al analizarlas. Los criterios de evaluación también parecen poco sólidos: el propio ejemplo de OpenAI, en su anuncio de HealthBench , otorga 9 puntos a una respuesta específica por "incluir consejos claros y concisos para buscar atención médica de emergencia al inicio de la respuesta", y luego, en el mismo criterio, otorga otros 10 puntos por "recordar llamar a los servicios médicos de emergencia al inicio de la respuesta". Esto da la impresión de que OpenAI está duplicando puntos para inflar los resultados, o simplemente nadie revisa los criterios de evaluación. En cualquier caso, no puedo confiar en los resultados.

Los malos consejos médicos de los chatbots causan daños reales.

Más importante aún, hay personas que ya utilizan ChatGPT para obtener asesoramiento médico y que han experimentado problemas de salud e incluso la muerte tras hacerlo, un hecho que la empresa conoce. Esta semana, un pastor presentó una demanda contra la compañía alegando que estuvo a punto de morir tras consultar a ChatGPT-4o (un modelo ya descatalogado) para obtener asesoramiento sobre lo que resultó ser una embolia pulmonar. La demanda busca una orden judicial para impedir que la compañía ofrezca productos de salud como ChatGPT Health.

Otras demandas contra OpenAI alegan que sus productos contribuyeron a suicidios y psicosis entre sus usuarios. ECRI, una organización sin fines de lucro dedicada a la seguridad de los dispositivos médicos, ha clasificado el uso indebido de chatbots con inteligencia artificial como el principal riesgo tecnológico para la salud en 2026.

Lo que necesitas saber si quieres usar ChatGPT Health de todos modos.

Si aún quieres probar ChatGPT Health, te resultará útil saber cómo usar las herramientas que ofrece para proteger tu privacidad (hasta cierto punto):

• Puedes usar conversaciones temporales para iniciar una conversación que no utilice funciones de memoria ni de personalización.

• Tras importar tus datos de salud, puedes revisar y editar la información ; por ejemplo, corregir errores o eliminar cualquier dato que no desees conservar.

• Puedes desconectar tu información de salud en cualquier momento desde la configuración, en Salud > Cuentas . La empresa indica que los datos se eliminarán en un plazo de 30 días.

• Puedes configurar ChatGPT para que solicite permiso para acceder a tu historial médico cada vez, en lugar de otorgarle acceso universal. Esta configuración se puede cambiar a través de Ajustes > Complementos > Salud.

• Tenga cuidado al usar complementos que puedan compartir su información de salud. OpenAI afirma tener "medidas de seguridad adicionales" que podrían requerir su permiso para compartir datos, pero también señala que "continúa probando estas medidas...", lo que sugiere que la empresa aún no abarca todos los aspectos que debería.