Artigo de perspectiva defende marcos regulatórios globais para dispositivos médicos com IA generativa

Um artigo de perspectiva afirmou que inovar os marcos regulatórios globais para IA generativa em dispositivos médicos é uma prioridade urgente. A integração da IA generativa e dos grandes modelos de linguagem na saúde apresenta oportunidades e desafios sem precedentes, exigindo abordagens regulatórias inovadoras.

O artigo discute os riscos dos GenAI e dos dispositivos médicos baseados em LLM e as limitações dos atuais marcos regulatórios para dispositivos médicos quando aplicados a GenAI ou LLMs. Defende a colaboração global em pesquisas de ciência regulatória por meio do engajamento de expertise multidisciplinar e do foco nas necessidades de populações diversas.

O artigo citou Food and Drug Administration, U.S.A. Total product lifecycle considerations for generative AI-enabled devices em 2024, trabalhos sobre desafios éticos e regulatórios dos grandes modelos de linguagem na medicina, testes e avaliação de aplicações de grandes modelos de linguagem na área da saúde, avaliação de benchmark dos grandes modelos de linguagem DeepSeek na tomada de decisão clínica e avaliação e mitigação das limitações dos grandes modelos de linguagem na tomada de decisão clínica. Também fez referência a trabalhos sobre uma caixa de ferramentas para identificar danos à equidade em saúde e vieses em grandes modelos de linguagem, a vulnerabilidade de grandes modelos de linguagem médicos a ataques de envenenamento de dados e a algorithmovigilance.

O artigo afirmou que nenhum conjunto de dados foi gerado ou analisado durante o estudo atual.