OpenAI comenzó el despliegue de ChatGPT Health pocos días después de que el pastor estadounidense Scott Winters demandó a la empresa al asegurar que siguió recomendaciones de ChatGPT que retrasaron la atención de una embolia pulmonar.

Aunque el caso continúa en los tribunales y no existe una resolución judicial, la coincidencia entre ambos hechos ha intensificado un debate de interés público: ¿qué tan confiable es la inteligencia artificial cuando las personas la utilizan para orientar decisiones sobre su salud?

La coincidencia temporal entre ambos acontecimientos convirtió el lanzamiento en mucho más que una noticia tecnológica. Abrió una discusión sobre el papel que la inteligencia artificial está desempeñando en una de las decisiones más delicadas que toma cualquier persona: decidir cuándo preocuparse por un síntoma y cuándo buscar atención médica.

El desafío

OpenAI presentó ChatGPT Health como una nueva experiencia que permitirá a usuarios elegibles integrar expedientes clínicos electrónicos y datos de aplicaciones de salud para recibir respuestas más contextualizadas.

Pero el foco del tema es otro. Cada vez más personas recurren a la inteligencia artificial antes que a un profesional de la salud para interpretar estudios de laboratorio, comprender diagnósticos, conocer los posibles efectos secundarios de un medicamento o decidir si un síntoma requiere atención médica.

OpenAI afirma que más de 230 millones de personas realizan preguntas relacionadas con salud y bienestar cada semana en ChatGPT. Aunque esa cifra proviene de la propia empresa y no ha sido auditada de manera independiente, refleja la magnitud de un cambio que ya comienza a modificar la relación entre pacientes e información sanitaria.

¿Qué es ChatGPT Health?

Según OpenAI, ChatGPT Health permitirá que los usuarios, de manera voluntaria, conecten información proveniente de expedientes médicos electrónicos y aplicaciones compatibles para recibir respuestas que tomen en cuenta ese contexto personal. Entre las funciones anunciadas se encuentran:

• explicar resultados de laboratorio en lenguaje sencillo;
• resumir documentos clínicos;
• comparar estudios realizados en distintos momentos;
• ayudar a preparar preguntas para una consulta médica;
• integrar información de aplicaciones de bienestar cuando el usuario decida compartirla.

La empresa también asegura que la información utilizada dentro de ChatGPT Health contará con protecciones específicas de privacidad y no será empleada para entrenar los modelos generales de inteligencia artificial.

Sin embargo, la propia OpenAI insiste en un aspecto que suele pasar inadvertido entre el entusiasmo tecnológico: la herramienta no sustituye la atención médica profesional, no realiza diagnósticos y no debe utilizarse para atender emergencias.

Lo que dice la ciencia

Durante los últimos dos años, la comunidad científica ha evaluado el desempeño de los modelos de lenguaje en múltiples tareas médicas. Las investigaciones muestran resultados alentadores en aspectos como:

explicar conceptos médicos en lenguaje sencillo;

resumir artículos científicos;

ayudar a interpretar informes clínicos;

apoyar la comunicación entre médicos y pacientes.

Pero la evidencia también identifica limitaciones importantes. Los investigadores han documentado que estos sistemas pueden generar información incorrecta con un lenguaje convincente, omitir datos relevantes del contexto clínico, mostrar exceso de confianza cuando la evidencia es limitada y ofrecer recomendaciones inconsistentes frente a casos similares. En medicina, esas limitaciones tienen implicaciones importantes.

Desde 2021, la Organización Mundial de la Salud advirtió que el desarrollo de inteligencia artificial para el sector sanitario debe regirse por principios éticos que garanticen seguridad, transparencia, supervisión humana, protección de datos personales y rendición de cuentas.

La OMS reconoce el potencial de estas tecnologías para ampliar el acceso al conocimiento médico y fortalecer algunos procesos asistenciales. Pero al mismo tiempo advierte que su implementación apresurada o insuficientemente evaluada puede aumentar desigualdades, introducir nuevos riesgos y afectar la confianza pública en los sistemas de salud.

La recomendación central es clara: la inteligencia artificial debe complementar, no sustituir, el juicio clínico.

¿Y qué pasa en México?

Aunque ChatGPT Health comenzó su despliegue para usuarios elegibles en Estados Unidos, el debate también concierne a México.

Cada vez más mexicanos utilizan herramientas de inteligencia artificial para interpretar estudios clínicos, entender diagnósticos o resolver dudas sobre medicamentos.

Sin embargo, el país todavía no cuenta con un marco regulatorio específico para asistentes conversacionales de inteligencia artificial dirigidos al público general en temas de salud.

La protección de los datos personales se encuentra regulada por la legislación vigente, pero persisten interrogantes sobre el uso de información clínica por plataformas internacionales, la transparencia de los algoritmos y los mecanismos de supervisión cuando estas herramientas influyen en decisiones relacionadas con la salud.

Para especialistas en salud digital, el principal reto no consiste únicamente en desarrollar tecnologías más precisas, sino en fortalecer la alfabetización digital y la capacidad de los usuarios para comprender qué puede hacer —y qué no puede hacer— una inteligencia artificial.

Cinco recomendaciones para utilizar IA en temas de salud

Si utiliza herramientas de inteligencia artificial para resolver dudas médicas, considere estas recomendaciones:

• Úselas para comprender información, no para sustituir una consulta médica.
• No inicie, suspenda o modifique tratamientos únicamente con base en una respuesta generada por IA.
• Verifique con un profesional cualquier recomendación que pueda afectar su salud.
• Revise las políticas de privacidad antes de compartir estudios clínicos o información personal sensible.
• Ante síntomas graves —como dificultad para respirar, dolor intenso en el pecho, pérdida del estado de alerta o signos de un accidente cerebrovascular— busque atención médica inmediata.

Más allá de una innovación tecnológica

El lanzamiento de ChatGPT Health probablemente acelerará la integración de la inteligencia artificial en la vida cotidiana de millones de personas. Pero el verdadero desafío consiste en garantizar que esas respuestas sean utilizadas con criterios de evidencia, supervisión y responsabilidad.

La utilidad potencial de los modelos de lenguaje en salud está respaldada por investigaciones en tareas específicas, pero la evidencia clínica independiente sobre ChatGPT Health como producto aún es insuficiente.