ChatGPT o un IA de confianza: Te responde rápido, te lo explica con calma y parece entender lo que te preocupa. Pero una respuesta convincente también puede estar equivocada.
«Pero, doctora, ChatGPT me ha dicho otra cosa». Cada vez escucho más esta frase en consulta.
Entiendo la duda: si te ayuda con tantas cosas y te explica todo con claridad, es natural preguntarse si también puedes confiar en él para tu salud.
No escribo esto para ridiculizar a quienes lo consultan. Lo escribo porque una respuesta puede sonar convincente y estar equivocada, y quiero explicarte qué conviene revisar antes de seguirla.
Pero también ha pasado esto:
La familia de una mujer con epilepsia fallecida ha demandado a OpenAI: sostiene que ChatGPT la guio para reducir su medicación y ocultarlo a sus médicos. Es una acusación recogida en una demanda, no una responsabilidad judicialmente demostrada. Puedes leer la noticia aquí.
Más allá de este caso, hay cinco riesgos que conviene conocer sobre el uso de CHATGPT o cualquier chatbox.
1. Puede darte la razón cuando necesitas que te lleven la contraria
Se llama complacencia: la IA puede reforzar tu opinión en lugar de cuestionarla.
Un estudio encontró que las respuestas complacientes aumentaban la convicción de los usuarios de tener razón en conflictos personales. No investigó la retirada de medicamentos, pero sí muestra el peligro de confundir validación con buen consejo. Estudio sobre complacencia.
Que te dé la razón no demuestra que tu decisión sea segura.
2. Puede citar estudios que no existen
Autores, títulos, revistas… Todo puede parecer auténtico.
Es una forma de alucinación. Un estudio publicado en Scientific Reports identificó referencias inventadas y errores bibliográficos en respuestas de ChatGPT. Evaluó versiones de 2023; sus cifras no deben atribuirse automáticamente a los modelos actuales. Estudio sobre referencias inventadas.
Pedirle «dame la fuente» no basta: hay que abrirla y comprobar qué dice.
3. Puede equivocarse con mucha seguridad
La seguridad del tono no garantiza la fiabilidad de la respuesta.
Una investigación con preguntas médicas encontró dificultades para reconocer cuándo faltaba información o cuándo el modelo no podía responder correctamente. Estudio en Nature Communications.
Preguntarle «¿seguro?» no equivale a obtener una segunda opinión independiente.
4. Puede orientarte mal sobre cuándo buscar atención
4. Puede decirte que no es grave cuando necesitas atención urgente
Le cuentas tus síntomas y recibes una explicación tranquilizadora. Cierras el chat y decides esperar.
Pero puede haber interpretado mal lo que describes o no haber detectado una señal de alarma.
Cuando se asigna menos urgencia de la necesaria, se llama infratriaje. Aunque, seamos serios, Chat GPT no debería hacer ningún triaje.
Que ChatGPT te diga «no parece grave» no significa que sea seguro esperar.
El estudio publicado en Nature Medicine evaluó decisiones ante escenarios médicos simulados y encontró errores al elegir qué atención buscar.
5. Puedes terminar confiando más en la respuesta que en los hechos
Se llama sesgo de automatización: dar demasiado crédito a una recomendación porque procede de un sistema informático. Se ha estudiado también en decisiones sanitarias. Revisión sobre sesgo de automatización.
En consulta veo personas brillantes que me dicen: «Pero ChatGPT me ha recomendado otra cosa».
Ser inteligente no nos hace inmunes a una explicación convincente.
Un ejemplo: «Mi madre está más dormida; será la medicación»
Imagina que tu madre empieza a estar más somnolienta. Preguntas al chatbot si puede deberse a una pastilla y responde que sí.
Esa posibilidad se convierte, poco a poco, en tu explicación. Vuelves a preguntar cómo reducirla y acabas considerando un cambio que nadie ha valorado clínicamente.
Una posibilidad no es un diagnóstico. Hay que revisar cuándo empezó el cambio, los tratamientos y qué otros síntomas presenta.
Puedes anotar lo que observas y preparar preguntas. Pero no cambies la medicación únicamente por una respuesta del chat.
¿Qué puedes hacer con esa información?
Úsala para preparar la consulta: ordenar dudas, identificar qué no entiendes y pedir explicaciones sobre las alternativas.
Si necesitas revisar la salud, la autonomía o los tratamientos de tu familiar, aquí explico qué puedo valorar en una consulta de geriatría online.
Recuerda: que ChatGPT te ayude a escribir un correo no lo convierte en tu médico.
Dra. Paola Ríos Germán. Especialista en medicina preventiva desde hace veinte años y especialista en geriatría.