A medida que la IA entra en la práctica clínica, investigadores y grupos médicos piden límites
Nuevas investigaciones y directrices destacan las promesas y los peligros de la IA en medicina, desde un estudio de Dartmouth que muestra que los mensajes a pacientes redactados por IA pueden introducir errores, hasta el nuevo documento de posición de la Israel Medical Association. Las respuestas regulatorias varían, con la guía de la FDA y las leyes estatales aún en evolución.
La inteligencia artificial está llegando a las salas de emergencias, las clínicas comunitarias y los portales de pacientes, pero un creciente cuerpo de investigación y directrices profesionales advierte que se necesitan salvaguardas. Un estudio de Dartmouth presentado en la Reunión Anual 2026 de la Association for Computational Linguistics encontró que las respuestas redactadas por IA a los pacientes pueden introducir errores y detalles superfluos, mientras que la Israel Medical Association ha publicado un documento de posición que define los límites del uso de esta tecnología en medicina.
Los investigadores de Dartmouth analizaron 146.000 conversaciones entre 10.105 pacientes y sus médicos de atención primaria en un gran sistema de salud rural, en el primer estudio a gran escala de un portal de pacientes en línea que utiliza IA para redactar respuestas. Descubrieron que las respuestas generadas por IA con frecuencia no coinciden con lo que los médicos realmente escribirían: respuestas demasiado largas, que no hacen preguntas de seguimiento y que usan detalles médicos irrelevantes o inexactos. Como resultado, los médicos pueden pasar más tiempo editando las respuestas de lo que les habría llevado escribirlas, reportan los investigadores. En un ejemplo, la IA del portal sugirió decirle a una mujer de 32 años que tomaba un medicamento para el reflujo ácido y estaba preocupada por náuseas constantes que el medicamento podría requerir un ajuste en la dieta; un médico, en cambio, preguntó si había alguna posibilidad de que estuviera embarazada.
Los investigadores evaluaron respuestas redactadas por Claude, Gemini y ChatGPT, así como tres plataformas comerciales más pequeñas, Llama, Aloe y Qwen. Demostraron que adaptar la IA a la forma en que cada médico se comunica puede mejorar la precisión en un 33% y reducir el tiempo de edición en un 26%. El equipo también desarrolló una técnica llamada TADPOLE — Thematic Agentic Direct Preference Optimization for Learning Enhancement — que entrena a las plataformas de IA para que se ajusten mejor a los estándares de precisión y calidad de información de los médicos. Al incorporar TADPOLE en los seis LLM comerciales, las respuestas redactadas coincidieron mejor con esos estándares, lo que, según uno de los coautores, podría ahorrarle a un médico ocupado una o dos horas de trabajo al día.
La Israel Medical Association, a través del Institute for Quality in Medicine y la Israeli Society for Risk Management and Patient Safety in Medicine, publicó este mes un documento de posición que intenta definir las reglas del juego: usar la tecnología sin volverse esclavo de ella; dejarse asistir para mejorar el diagnóstico y el tratamiento, pero no convertirla en un médico oculto que toma decisiones. El documento señala que, a mayo de 2024, la Administración de Alimentos y Medicamentos de EE. UU. (FDA) había aprobado 882 dispositivos médicos que utilizan inteligencia artificial, y la radiología representaba 671 dispositivos, es decir, el 76%. También describe sistemas como Rounds, que graba una consulta médica, transcribe la conversación y genera un documento completo de la visita, y AI-PRO de Clalit Health Services, que escanea los registros médicos cada noche y presenta recomendaciones y pacientes en riesgo a los médicos de familia.
El documento de posición enfatiza que la promesa es grande, pero también lo son los riesgos. Las recomendaciones de un sistema de IA pueden estar sesgadas si los datos de entrenamiento son parciales, sesgados o no representativos de la población de pacientes. Otro riesgo es la falsa sensación de seguridad: cuando un sistema computarizado da una respuesta rápida, bien redactada y segura de sí misma, es fácil creerla.
El entorno regulatorio está fragmentado. En enero, la FDA actualizó su guía de software para permitir que las herramientas de IA operen con menos supervisión cuando asisten a los médicos, colocando al software que permite a un médico revisar de forma independiente la base de una recomendación de IA fuera de la regulación de dispositivos médicos de la agencia. Sin embargo, la excepción solo cubre la IA con un médico en el circuito; no existe una exención comparable para la IA que habla directamente con los pacientes, lo que convierte a la IA clínica más autónoma en la menos regulada. Los estados han tomado direcciones diferentes: Utah, Arizona y Texas están construyendo marcos para acelerar la implementación, mientras que Nueva York y California se están moviendo para restringir la IA en medicina. Los legisladores de Nueva York presentaron una legislación que podría hacer ilegal que la IA proporcione incluso orientación médica básica, y California promulgó una ley que exige informar a los pacientes cuando la IA está involucrada.
Mientras tanto, los datos muestran que uno de cada tres estadounidenses recurre ahora a los chatbots de IA para diagnosticar síntomas y orientar la atención, una cifra que se duplicó en un solo año. Algunos médicos ven potencial en la IA para ampliar el acceso. Un pediatra ha argumentado que una IA bien diseñada podría simular interacciones de 'servir y devolver' (serve and return) para los niños, haciendo preguntas y ajustándose según las respuestas, a diferencia del contenido pasivo de las pantallas. El gobierno federal también está solicitando propuestas para desarrollar una IA que gestione de forma independiente los episodios de insuficiencia cardíaca, una enfermedad en la que solo el 1% de los pacientes recibe el régimen farmacológico recomendado y las tasas de mortalidad a cinco años superan el 50%.