La versión de ChatGPT centrada en salud ya está disponible en varios países. Aunque aún no ha llegado a España, la herramienta está generando controversia
Un hombre acude a las urgencias de un hospital. Tiene 60 años y muestra preocupación porque piensa que su vecino lo está envenenando. Los profesionales que lo atienden verifican que no presenta antecedentes psiquiátricos y proceden a realizar pruebas. La primera de ellas es un análisis clínico cuyos resultados revelan un elevado nivel de cloro en sangre, un fósforo anormalmente bajo y bicarbonato incrementado, entre otras alteraciones.
Al ingresar, el paciente informa que sigue varias restricciones dietéticas y que destila su propia agua en casa. También señala que durante tres meses sustituyó la sal común, o cloruro de sodio, por bromuro de sodio obtenido por Internet. ¿La razón? Consultó con ChatGPT y este le indicó que el cloruro podía ser reemplazado por bromuro, probablemente con otros propósitos, como la limpieza.
Aunque suene como el argumento de una serie, este caso ocurrió realmente y fue publicado en la revista Annals of Internal Medicine hace unos meses. “Este episodio subraya también cómo la inteligencia artificial puede contribuir de forma potencial a la aparición de efectos adversos para la salud que podrían evitarse”, señalan los autores.
Si bien ya se reportaron casos similares con las versiones anteriores de ChatGPT, hace unas semanas OpenAI presentó su versión Health. Se trata de una herramienta nueva centrada en la salud y el bienestar, desarrollada en colaboración con profesionales médicos. “Una experiencia diseñada para integrar de manera segura tu información médica con la inteligencia de ChatGPT, a fin de proporcionar mayor confianza y preparación en el cuidado de la salud”, explican. Actualmente, en los países del Espacio Económico Europeo, incluyendo España, aún no está disponible, pero los especialistas ya empiezan a compartir sus opiniones.
Para Josep Curto, profesor y director académico del máster en Inteligencia de Negocio y Big Data de la Universitat Oberta Catalunya (UOC), “se trata de un cambio de paradigma, no simplemente una mejora incremental”: “El valor real está en la capacidad de síntesis y la accesibilidad: democratizar el acceso a información médica compleja y disminuir la carga administrativa sobre los profesionales. Sin embargo, en el ámbito sanitario, la precisión es esencial”.
El experto aclara que desde el enfoque de una inteligencia artificial responsable, el beneficio es tangible solo si el sistema funciona como IA aumentada, esto es, asistente del médico, y no como IA autónoma, que sustituya al profesional. “El principal riesgo no es la tecnología en sí, sino el exceso de confianza que puede ocasionar diagnósticos incorrectos si no existe supervisión humana especializada constante”, advierte.
Esta visión es compartida por el doctor César Dilú Sorzano, miembro del Grupo de Trabajo de Salud Digital de la Sociedad Española de Médicos Generales y de Familia (SEMG). “No reemplaza las decisiones médicas, sino que es una herramienta complementaria para el paciente”, explica en diálogo con El Confidencial.
Él se enfrenta diariamente a pacientes que llegan con un posible diagnóstico proporcionado por ChatGPT, pero atribuye esto al problema de las listas de espera: “Solicitas cita con el médico de familia y te la dan para dentro de dos meses, lo que representa un gran problema en nuestro sistema sanitario, incapaz de cubrir esa demanda. La gente ya está usando estas herramientas, por lo que será necesario diseñar un plan para capacitarles y que las usen responsablemente”.
También subraya que el personal sanitario debe recibir formación adecuada. “A los médicos no nos agrada que un paciente llegue con lo que ChatGPT le ha dicho, pero la realidad es que no se puede evitar. Ocurre desde la existencia de los buscadores, cuando escuchamos ‘he leído en Google’. Cada avance tecnológico genera cierto rechazo en la comunidad médica”, reconoce.
En efecto, Dilú considera que “ya es posible aliviar la carga” de la Atención Primaria, por ejemplo, mediante la transcripción de consultas. “Es necesario invertir en estas tecnologías, pero sin la preparación adecuada de las personas, su uso no rendirá igual”, sostiene.
Opinión TE PUEDE INTERESAR España refuerza la regulación de la IA: ¿más allá de Europa o una mera adaptación? Guillem València Caballero
En relación con el marco regulatorio vigente, el profesor Curto señala que el Reglamento Europeo de Inteligencia Artificial, conocido como EU AI Act, representa “la salvaguarda que se requería”. “Según esta normativa, los sistemas de IA empleados en diagnósticos médicos se catalogan principalmente como de alto riesgo. Esto conlleva que ChatGPT Health deberá cumplir rigurosos exigencias en gestión proactiva de riesgos, trazabilidad de los datos de entrenamiento, transparencia para los usuarios y supervisión humana incorporada desde el diseño”, asegura.
Además, resalta que la regulación “no pretende frenar la innovación, sino generar la confianza necesaria” para que tanto pacientes como médicos se animen a utilizarla: “Sin leyes claras, el sector sanitario no adoptaría estas tecnologías masivamente por temor a demandas”.
Respecto a los principales desafíos éticos y de seguridad, el experto identifica tres riesgos cruciales. El primero abarca la privacidad y soberanía de datos: “Los datos de salud constituyen una categoría especial bajo el Reglamento General de Protección de Datos, y el reto es asegurar que las consultas de pacientes no se empleen para reentrenar modelos comerciales, manteniendo siempre un anonimato técnico absoluto”.
El segundo se vincula a las alucinaciones y sesgos del algoritmo. “Un modelo de lenguaje puede parecer muy persuasivo, aun cuando se equivoca. Además, si los datos usados en su entrenamiento contienen sesgos de género o raza, las recomendaciones médicas podrían ser discriminatorias”, advierte.
Finalmente, menciona la responsabilidad: “Si una IA propone un tratamiento incorrecto, la cadena legal de responsabilidad sigue siendo incierta en algunas regiones. ¿Es culpable el desarrollador, el hospital o el médico que validó la respuesta? Es fundamental implementar mecanismos efectivos de gobernanza de la IA”.
La perspectiva de los pacientes
El Defensor del Paciente ha presentado recientemente su Memoria Anual 2025, dedicando un espacio a la inteligencia artificial. “El debate sobre cómo incorporar las nuevas tecnologías al servicio de los pacientes y la sanidad pública es amplio. Cuando pensamos en el impacto de la IA, surge la preocupación por la sustitución del trabajo humano. En nuestra visión, la atención médica apoyada exclusivamente en IA constituye un riesgo real. Implica dificultades diagnósticas y podría derivar en errores graves en la medicación”, manifiestan.
Prosiguen señalando que al paciente se le debe “auscultar, explorarlo y observar la expresión de su rostro”: “¿Cómo reemplazamos la empatía o las sensaciones? La distancia entre médico y paciente solo puede conducir a errores médicos. Desde nuestro punto de vista, el futuro de la Medicina es incierto con la IA porque elimina el componente humano”.
No obstante, aclaran que no se oponen al uso de herramientas basadas en IA “siempre que estén diseñadas adecuadamente y sean capaces de resolver problemas operativos, como reducir las listas de espera y automatizar tareas repetitivas”. “No es una solución milagrosa, la medicina tradicional sigue siendo válida y está vigente”, concluyen.