Artículo de perspectiva pide marcos regulatorios globales para dispositivos médicos de IA generativa

Un artículo de perspectiva señaló que innovar marcos regulatorios globales para la IA generativa en los dispositivos médicos es una prioridad urgente. La integración de la IA generativa y los modelos de lenguaje de gran tamaño en la atención sanitaria presenta oportunidades y desafíos sin precedentes, lo que exige enfoques regulatorios innovadores.

El artículo analiza los riesgos de la GenAI y de los dispositivos médicos basados en LLM, así como las limitaciones de los marcos regulatorios actuales para dispositivos médicos cuando se aplican a la GenAI o a los LLM. Aboga por la colaboración global en la investigación de la ciencia regulatoria mediante la participación de expertos multidisciplinarios y un enfoque centrado en las necesidades de poblaciones diversas.

El artículo citó Food and Drug Administration, U.S.A. Total product lifecycle considerations for generative AI-enabled devices en 2024, trabajos sobre los desafíos éticos y regulatorios de los modelos de lenguaje de gran tamaño en medicina, las pruebas y evaluación de aplicaciones sanitarias de modelos de lenguaje de gran tamaño, la evaluación comparativa de los modelos de lenguaje de gran tamaño de DeepSeek en la toma de decisiones clínicas, y la evaluación y mitigación de las limitaciones de los modelos de lenguaje de gran tamaño en la toma de decisiones clínicas. También hizo referencia a trabajos sobre una caja de herramientas para identificar daños y sesgos en equidad en salud en modelos de lenguaje de gran tamaño, la vulnerabilidad de los modelos médicos de lenguaje de gran tamaño a ataques de envenenamiento de datos, y la algoritmovigilancia.

El artículo indicó que no se generaron ni se analizaron conjuntos de datos durante el estudio actual.