OpenAI y Anthropic lanzan nuevas herramientas de IA enfocadas en la salud

La semana pasada, OpenAI anunció ChatGPT Health, que permite a los usuarios discutir temas de salud en un entorno privado donde los mensajes no se utilizan como datos de entrenamiento. Esta semana, Anthropic anunció su propio producto de salud, Claude for Healthcare. Los lanzamientos representan un impulso por parte de los desarrolladores de inteligencia artificial (IA) hacia el sector médico, con el objetivo de abordar las cargas administrativas mientras enfrentan un escrutinio inmediato sobre la privacidad de datos y la precisión clínica.

Los expertos de la industria están divididos sobre la utilidad de estas herramientas. Aunque más de 230 millones de personas ya hablan con ChatGPT sobre su salud cada semana, los médicos advierten que los chatbots de IA tienen un problema persistente con las alucinaciones. Según el Modelo de Evaluación de Consistencia Factual de Vectara, el GPT-5 de OpenAI es más propenso a las alucinaciones que muchos modelos de Google y Anthropic. El Dr. Sina Bari, cirujano practicante y líder de IA en salud en la empresa de datos iMerit, señaló que ChatGPT puede desviar a los pacientes con consejos médicos erróneos. “Hace poco tuve un paciente que vino, y cuando recomendé un medicamento, tenía un diálogo impreso de ChatGPT que decía que este medicamento tiene un 45% de probabilidades de causar una embolia pulmonar”, dijo el Dr. Bari.

Otros expertos plantean preocupaciones sobre la transferencia de datos. Itai Schwartz, cofundador de la firma de prevención de pérdida de datos MIND, cuestionó cómo abordarían los reguladores la transferencia de datos médicos desde organizaciones que cumplen con la HIPAA hacia proveedores que no cumplen con ella. HIPAA es la ley de privacidad de datos de salud de Estados Unidos. Sin embargo, Andrew Brackin, socio de Gradient, argumentó que, debido a que las consultas de salud ya son uno de los casos de uso más grandes de ChatGPT, tiene sentido crear una versión privada, segura y optimizada.

Algunos expertos argumentan que la IA es más adecuada para tareas del lado del proveedor que para chatbots orientados al paciente, particularmente dada la actual escasez de acceso para pacientes en el mercado estadounidense. El Dr. Nigam Shah, profesor de medicina en Stanford, científico jefe de datos de Stanford Health Care y cofundador de Atropos Health, señaló que los tiempos de espera para un médico de atención primaria en cualquier sistema de salud son actualmente de tres a seis meses.

Para abordar esto, los desarrolladores se están enfocando en tareas administrativas, que según reportan las revistas médicas, a menudo consumen alrededor de la mitad del tiempo de un médico de atención primaria. Stanford está desarrollando ChatEHR, un software integrado en los sistemas de registros médicos electrónicos (EHR, por sus siglas en inglés) para ayudar a los médicos a recuperar información del paciente de manera más eficiente. La Dra. Sneha Jain, una de las primeras evaluadoras de ChatEHR, señaló que hacer que los registros médicos electrónicos sean más fáciles de usar permite a los médicos pasar menos tiempo buscando información y más tiempo hablando con los pacientes. Mientras tanto, Claude for Healthcare de Anthropic podría reducir el tiempo dedicado a tareas administrativas como la autorización previa (el proceso de aprobación de seguros para procedimientos médicos o medicamentos). El director de productos de Anthropic, Mike Krieger, declaró que reducir 20 o 30 minutos de cada caso de autorización previa representa un ahorro de tiempo dramático para las clínicas.

Por qué importa

A medida que las empresas de IA lanzan productos específicos para la atención médica, los expertos de la industria debaten la tensión entre el potencial de la IA para reducir las cargas administrativas de los médicos y los riesgos para la privacidad de los datos de los pacientes y las alucinaciones de la IA.