Estudio Encuentra que ChatGPT Health Subestima la Gravedad en Más de la Mitad de las Emergencias Médicas

Un estudio reciente publicado en Nature Medicine indica que ChatGPT Health, el chatbot enfocado en salud de OpenAI, subestimó la gravedad de las emergencias médicas en el 51.6% de los casos. Los investigadores presentaron 60 escenarios médicos reales al chatbot, comparando sus recomendaciones de triaje con las de tres médicos. El chatbot frecuentemente sugirió que los pacientes buscaran atención médica dentro de 24 a 48 horas en lugar de recomendar atención inmediata en emergencias.

El Dr. Ashwin Ramaswamy, autor principal del estudio e instructor de urología en The Mount Sinai Hospital en la ciudad de Nueva York, señaló que en casos como el fallo respiratorio inminente, el bot parecía "esperar a que la emergencia se volviera innegable" antes de recomendar acudir a urgencias. Describió el comportamiento del bot como "paradójico" e "invertido respecto al riesgo clínico".

OpenAI respondió afirmando que el estudio no reflejaba el uso típico de ChatGPT Health, enfatizando que el chatbot está diseñado para que los usuarios proporcionen más contexto mediante preguntas de seguimiento. La compañía está trabajando para mejorar la seguridad y confiabilidad del modelo antes de un lanzamiento más amplio.

El estudio también encontró que ChatGPT Health sobreestimó la gravedad en el 64.8% de los casos no urgentes, recomendando visitas al médico cuando el cuidado en casa era suficiente. En escenarios que involucraban ideación suicida, las respuestas del chatbot fueron inconsistentes, a veces sin referir a los usuarios a los recursos adecuados de crisis.

Los expertos advierten contra confiar únicamente en la inteligencia artificial para consejos médicos. El Dr. John Mafi, profesor asociado de medicina en UCLA Health, enfatizó la necesidad de pruebas rigurosas antes de desplegar tales herramientas para decisiones que afectan la vida. El Dr. Ethan Goh, director ejecutivo de ARISE, una red de investigación en IA, declaró que aunque la IA puede ser útil, no es un sustituto del consejo de un médico.