El caso de un pastor de Florida que presentó una demanda contra OpenAI al asegurar que ChatGPT le recomendó no acudir al médico vuelve a colocar bajo escrutinio el uso de la IA para resolver dudas de salud

Un pastor de Florida demandó a OpenAI y a su director ejecutivo, Sam Altman, al asegurar que las recomendaciones médicas proporcionadas por ChatGPT retrasaron la atención de una embolia pulmonar potencialmente mortal, un caso que podría convertirse en un precedente para el uso de inteligencia artificial en temas de salud.

De acuerdo con la información, publicada en el sitio Engadget, Scott Winters consultó durante varios meses a ChatGPT sobre diversos problemas de salud y, cuando presentó síntomas compatibles con una embolia pulmonar, el chatbot habría minimizado la gravedad del cuadro y le indicó que no parecía tratarse de una situación peligrosa.

Según el expediente, incluso respondió a las preocupaciones expresadas por familiares y miembros de su iglesia alentándolo a mantener su confianza y a no dejarse influir por quienes le recomendaban acudir al hospital.

La agencia Reuters informó que el pastor finalmente fue hospitalizado y diagnosticado con múltiples embolias pulmonares, una condición que puede comprometer la vida si no recibe tratamiento oportuno. Los médicos atribuyeron parte del riesgo a la inmovilidad prolongada, un aspecto que, según la demanda, habría sido reforzado por las recomendaciones del chatbot.

Winters afirma que sobrevivió, pero enfrenta una recuperación física y psicológica de largo plazo.

La demanda

La acción legal acusa a OpenAI de negligencia y de ejercer de manera no autorizada funciones propias de la práctica médica al ofrecer diagnósticos y recomendaciones específicas.

Además de una compensación económica, los demandantes solicitan que un tribunal ordene reforzar las medidas de seguridad del sistema y suspenda el despliegue de ChatGPT Health hasta que una evaluación independiente determine que cumple estándares adecuados de seguridad, explica Engadget.

La respuesta de OpenAI

OpenAI respondió que ChatGPT no está diseñado para sustituir el diagnóstico, tratamiento o consejo de profesionales de la salud y recordó que sus condiciones de uso establecen esa limitación.

La empresa también señaló que simplificar las decisiones médicas de una persona a la interacción con un chatbot no refleja la complejidad de los procesos de atención sanitaria y aseguró que continúa trabajando para mejorar las medidas de seguridad del sistema, anota Reuters

Un debate que crece

El caso se suma a otras demandas recientes relacionadas con el uso de ChatGPT en situaciones de alto riesgo, incluidas acciones legales que cuestionan las respuestas del sistema en temas de salud mental y consumo de drogas. Estas controversias han intensificado el debate sobre las responsabilidades de las empresas desarrolladoras de inteligencia artificial y sobre la necesidad de establecer mecanismos de protección más robustos cuando los usuarios buscan orientación médica.

Aunque diversas investigaciones muestran que los modelos de lenguaje pueden ser útiles para explicar conceptos médicos o facilitar el acceso a información general, también han documentado que pueden generar respuestas inseguras o inexactas, especialmente cuando se utilizan para orientar decisiones clínicas individuales.

Lo que debes saber

Especialistas en seguridad del paciente insisten en que las herramientas de inteligencia artificial pueden complementar la búsqueda de información, pero no deben sustituir una valoración médica, especialmente cuando existen síntomas de alarma como dificultad para respirar, dolor intenso en el pecho, pérdida del estado de alerta o cualquier otro signo de una posible emergencia.

En esos casos, la recomendación es buscar atención médica inmediata y no utilizar la inteligencia artificial como un sustituto del diagnóstico profesional.

Fuente: Esta nota fue elaborada con base en el reporte publicado por Engadget y contrastada con información adicional publicada por Reuters.