Mi amiga tiene cáncer: consultó a ChatGPT por motivos médicos, y esto me impactó.

Escribí este artículo alrededor de las 3:00 de la madrugada, sentado en la sala de espera de una clínica mientras mi amigo hablaba con el oncólogo en la habitación de atrás. El aire estaba impregnado del olor a medicina, por supuesto, y el ambiente tenía un inconfundible aire sombrío que me hacía desear irme cuanto antes. Pero la sensación que me invadió fue una ira intensa.

Hace apenas una hora, recibí una llamada de mi amiga de 24 años, quejándose de un fuerte dolor de cabeza y de estómago. Actualmente está recibiendo tratamiento contra el cáncer de mama, y ​​como la he acompañado durante este difícil proceso durante los últimos dos años, fui corriendo a su casa con la esperanza de que no fuera nada grave. Sin hacer muchas preguntas, encontré el hospital más cercano y la llevé a hacerse un chequeo.

De camino al hospital, le pregunté cuándo había empezado el dolor y si había experimentado algún otro síntoma preocupante. Su respuesta me impactó tanto que me dieron ganas de arrebatarle el teléfono y destrozarlo. «Al llegar a casa del trabajo, me sentí un poco mareada y también noté que algo no andaba bien en el estómago. Así que le pregunté a ChatGPT si podía tomar analgésicos, y unas horas después de tomarlos, el dolor de estómago empeoró y sentí una sensación de ardor. También vomité varias veces».

¿Quién es responsable de actuar con responsabilidad?

Sus confesiones me dejaron atónito, y el tono despreocupado con el que describió sus interacciones con ChatGPT fue aún más inquietante. Este desafortunado incidente tiene tantas aristas que he decidido prohibir la IA en mis seres queridos, especialmente en conversaciones sobre salud y bienestar. Como persona muy sensible a los medicamentos y en tratamiento contra el cáncer, que una IA me preguntara sobre la medicación era lo último que cualquier persona cuerda esperaría.

No sé con certeza quién tiene la culpa de esta aventura arriesgada y potencialmente mortal. Simplemente le tomó una foto a un analgésico, la subió a ChatGPT y preguntó si podía tomar dos a la vez. Su médico le recomendó tomar solo uno, incluso cuando el dolor era insoportable. ChatGPT le indicó que solo debía tomar un analgésico y que tomar dos solo debía hacerse bajo recomendación médica.

Cuando le pregunté por qué había recurrido a un bot de IA, me dijo que ChatGPT era «más fácil para obtener respuestas. Ni siquiera sé qué es real en internet». Como alguien que tuvo que abandonar los estudios después del instituto y mantener a su familia con trabajos ocasionales, entendí su situación. No podía darle lecciones sobre alfabetización digital ni verificación de datos. Hubo muchos errores en esa conversación, y ambos compartimos parte de la culpa.

Y aquí es donde empieza el problema. Mi amiga no es hablante nativa de hindi, y cuando traduje su pregunta a ese idioma, se convirtió en un desastre gramatical por culpa de una sola palabra. Quería preguntar si podía tomar dos pastillas del medicamento que aparecía en la imagen. Pero su torpe traducción hizo que pareciera que le preguntaba a ChatGPT si podía tomar "ambas pastillas".

Aquí, ChatGPT volvió a fallar. La imagen mostraba una pastilla con solo su composición química visible: diclofenaco y serraptiopeptidasa. El nombre del medicamento solo era parcialmente visible. A pesar de esto, el bot de IA identificó correctamente el analgésico como "algo parecido a Cipzen-D". Pero antes, también había mencionado otro medicamento, Fenak Plus, cuya composición química es diclofenaco y paracetamol, del que ya había hablado en otra conversación.

Se trata de una formulación completamente diferente, aunque ambas se venden sin receta y, lo que es preocupante, se pueden adquirir en farmacias locales sin necesidad de prescripción médica. En resumen, tenemos un error humano (en la traducción) y dos errores de ChatGPT, ya que también se basó en su memoria. Sin embargo, el consejo fue acertado.

El bot de IA de OpenAI advirtió claramente que tomar ambos medicamentos simultáneamente no es una buena idea, y agregó que podría provocar una sobredosis de diclofenaco. El bot también describió los posibles efectos secundarios, que incluyen sensación de ardor en el estómago, problemas relacionados con úlceras, sangrado y efectos negativos a largo plazo en los riñones.

Cabe destacar que la imagen proporcionada a ChatGPT mostraba solo un analgésico. El modelo recomendaba tomar solo uno a la vez, no ambos juntos. Sin embargo, mi amiga, recordando que ambos medicamentos le habían sido recetados previamente por médicos (aunque no juntos), los tomó para aliviar rápidamente el dolor y pronto sufrió graves consecuencias.

El médico también se enfureció, y con razón, cuando mi amiga le explicó por qué había tomado dos pastillas a la vez, reprendiéndola por no haber consultado a un profesional de la salud. A continuación, le pusieron una inyección para aliviar el dolor y le recetaron analgésicos que no dañarían su delicado organismo.

Como periodista especializada en tecnología que ha escrito sobre los peligros de la interacción con la IA en áreas sensibles, especialmente en salud y bienestar, sentí que había fallado. Sentí que nunca le había hablado a mi amiga sobre los riesgos de los robots con IA. Solo le advertí sobre estos peligros después del aterrador incidente.

Cuando admitió haber usado ChatGPT para obtener consejos médicos en numerosas ocasiones, le quitó el teléfono y borró la aplicación. Y lo que es más importante, le advirtió que no usara ningún otro chatbot con inteligencia artificial, como Gemini o Claude, para obtener consejos médicos, ni tampoco internet en general. La única forma correcta es hablar con un médico o acudir a una clínica.

El problema de la percepción

No la culpo del todo por lo sucedido . Dado lo arraigado que está ChatGPT en los hábitos digitales cotidianos de la gente como una especie de "genio omnisciente", es difícil culparla. La gente lo ve como un buscador de respuestas más práctico (y honesto) que la molestia de buscar respuestas en Google, hacer clic en enlaces azules y navegar por múltiples páginas web.

Y, para ser justos, tienen razón. Obtener respuestas directas de un bot de IA como ChatGPT, en lenguaje natural y en cuestión de segundos, es mucho más cómodo que navegar por el laberinto de enlaces de la Búsqueda de Google. Google también es consciente de los cambios en el comportamiento de los usuarios, lo que explica su apuesta por la IA conversacional en las búsquedas. Quizás te interese leer sobre mi experiencia al reemplazar la Búsqueda de Google con ChatGPT.

Incluso hoy en día, las respuestas conversacionales de Gemini se posicionan consistentemente en los primeros puestos de los resultados de búsqueda habituales. El concepto subyacente es simple: proporcionar a los usuarios respuestas concisas extraídas de las fuentes con enlaces azules de la Búsqueda de Google antes de que profundicen en el tema explorando múltiples fuentes en diferentes pestañas. Para obtener más información, puede leer nuestra comparación exhaustiva de ChatGPT y Gemini.

Cabe destacar que ChatGPT (y la mayoría de los modelos de IA líderes, en general) es extremadamente cauteloso cuando alguien solicita consejos sobre salud y bienestar. En la gran mayoría de estas respuestas, los bots de IA remiten al usuario a un profesional sanitario cualificado o a la línea de ayuda correspondiente. Sin embargo, precisamente la forma en que estos chatbots se han integrado en el discurso público como una fuente de información rápida y fiable es lo que los hace tan inquietantes.

Hace unos días, vi un acalorado debate en un importante canal de noticias. Durante este intenso intercambio, un participante retó a su oponente a verificar los hechos consultando ChatGPT. En ese momento, vi que se hablaba de ChatGPT como el equivalente moderno de las búsquedas en enciclopédicas, en una plataforma que influye en millones de personas en el segundo mercado de chatbots con IA más grande del mundo.

Pérdida en la traducción

Estados Unidos lidera la adopción de IA a nivel mundial, pero también es el país con mayor nivel de conocimiento sobre los riesgos del uso de chatbots con IA. En contraste, la alfabetización digital (y el conocimiento sobre IA) es mucho menor en India, por lo que el potencial de riesgos es mucho mayor. El riesgo se agrava aún más por el hecho de que cientos de miles de personas usan ChatGPT y otros agentes de IA en su idioma nativo, el hindi. Esta es una de las principales razones de lo que le sucedió recientemente a mi amigo: el problema de idioma de ChatGPT.

En un estudio publicado a principios de este año, el Centro de Comunicación Constructiva del MIT señaló que la precisión de las respuestas de los chatbots con IA disminuye cuando los usuarios interactúan en un idioma distinto del inglés. El informe de referencia SAHARA , publicado en diciembre pasado, también destacó una variación similar en el comportamiento de los chatbots con IA cuando los usuarios hablan un idioma diferente al inglés. The Economist también ha destacado varios artículos de investigación que han revelado el problema del idioma en los Modelos de Lenguaje a Gran Escala (LLM).

La barrera del idioma aumenta el nivel de riesgo.

Pero la traducción no es el único problema. Healthwatch England, un grupo independiente de defensa de los derechos de los consumidores y pacientes dentro del sistema de salud pública del Reino Unido, ha advertido sobre los peligros del uso de herramientas de transcripción con inteligencia artificial por parte de médicos y profesionales sanitarios. He aquí un resumen preocupante de su informe:

“En un caso alarmante, una herramienta de IA revisó el resumen de una resonancia magnética y documentó que el paciente tenía desmielinización, una afección neurológica grave asociada con la esclerosis múltiple. Pero la resonancia magnética en realidad mostraba ‘desmielinización nula’, lo que significa que el problema no existía.”

Este es un claro fallo que los principales modelos de lenguaje deben corregir, pero hay un problema mucho mayor en juego. Los chatbots con IA deben mejorar su rendimiento al tratar temas delicados. Plataformas como ChatGPT han implementado controles parentales y suelen animar a los usuarios a buscar ayuda, además de proporcionar números de teléfono de asistencia y recursos fiables. También verás una advertencia que indica que ChatGPT no es un médico, o algo similar.

Estas advertencias deberían aparecer al principio de todas las conversaciones, no ocultas entre las primeras frases, donde la mayoría de los usuarios encuentran sus respuestas y no se molestan en leer más. Es mucho mejor ver un banner destacado en la parte superior, y este protocolo debería integrarse en el funcionamiento básico del modelo de IA.

A continuación, necesitamos concienciación. Mucha. Las empresas de IA se dedican a mostrar cómo sus Modelos de Lenguaje a Gran Escala (MLG) resuelven problemas matemáticos complejos, superan a los humanos en los Juegos Olímpicos y contribuyen a avances médicos. Pero todo esto ocurre bajo la supervisión de expertos. Para el usuario medio, que ve ChatGPT como una fuente de información y conversación rápidas, las advertencias y los avisos legales deberían ser prioritarios.

Puede que OpenAI sea cautelosa, pero la percepción pública de ChatGPT está evolucionando a un ritmo peligrosamente rápido.

Muchos usuarios lo consideran un nuevo tipo de motor de conocimiento, que interactúa casi como un ser humano real. Existen numerosos casos en los que los robots de IA ofrecen consejos de salud peligrosos y potencialmente dañinos, e incluso en 2026, las investigaciones siguen destacando su comportamiento arriesgado en temas delicados. Solo espero que OpenAI, y todos los demás desarrolladores de IA, reflexionen seriamente sobre este asunto y tomen las medidas adecuadas.