À medida que a IA entra na prática clínica, pesquisadores e grupos médicos defendem limites
Novas pesquisas e diretrizes destacam as promessas e os perigos da IA na medicina, desde um estudo de Dartmouth que mostra que mensagens redigidas por IA para pacientes podem introduzir erros, até o novo documento de posição da Associação Médica de Israel. As respostas regulatórias variam, com orientações da FDA e leis estaduais ainda em evolução.
A inteligência artificial está chegando aos prontos-socorros, clínicas comunitárias e portais do paciente, mas um número crescente de pesquisas e orientações profissionais alerta que são necessárias salvaguardas. Um estudo de Dartmouth apresentado na Reunião Anual de 2026 da Association for Computational Linguistics descobriu que respostas redigidas por IA para pacientes podem introduzir erros e detalhes irrelevantes, enquanto a Associação Médica de Israel publicou um documento de posição definindo limites para o uso da tecnologia na medicina.
Os pesquisadores de Dartmouth analisaram 146.000 conversas entre 10.105 pacientes e seus médicos de atenção primária em um grande sistema de saúde rural, no primeiro estudo em larga escala de um portal online do paciente que usa IA para redigir respostas. Eles descobriram que as respostas geradas por IA frequentemente não se alinham com o que os clínicos realmente escreveriam — respostas longas demais, que não fazem perguntas de acompanhamento e usam detalhes médicos irrelevantes ou imprecisos. Como resultado, os médicos podem gastar mais tempo editando as respostas do que levariam para escrevê-las, relatam os pesquisadores. Em um exemplo, a IA do portal sugeriu dizer a uma mulher de 32 anos que tomava um medicamento para refluxo ácido e estava preocupada com náusea constante que o medicamento poderia exigir um ajuste na dieta; um médico, em vez disso, perguntou se havia alguma chance de ela estar grávida.
Os pesquisadores avaliaram respostas redigidas por Claude, Gemini e ChatGPT, bem como por três plataformas comerciais menores: Llama, Aloe e Qwen. Eles mostraram que adaptar a IA à forma como cada médico se comunica pode melhorar a precisão em 33% e reduzir a edição em 26%. A equipe também desenvolveu uma técnica chamada TADPOLE — Thematic Agentic Direct Preference Optimization for Learning Enhancement — que treina plataformas de IA para se alinharem melhor aos padrões de precisão e qualidade da informação dos médicos. Integrar o TADPOLE aos seis LLMs comerciais produziu respostas redigidas que melhor correspondiam a esses padrões, o que, segundo um dos coautores, poderia poupar a um clínico ocupado uma ou duas horas de trabalho por dia.
A Associação Médica de Israel, por meio do Instituto de Qualidade em Medicina e da Sociedade Israelense de Gerenciamento de Riscos e Segurança do Paciente em Medicina, publicou neste mês um documento de posição que tenta definir as regras do jogo: usar a tecnologia sem se tornar escravo dela; ser auxiliado por ela para melhorar o diagnóstico e o tratamento, mas não transformá-la em um médico oculto que toma decisões. O documento observa que, em maio de 2024, a Food and Drug Administration (FDA) dos EUA havia aprovado 882 dispositivos médicos que usam inteligência artificial, com a radiologia respondendo por 671 dispositivos, ou 76%. Ele também descreve sistemas como o Rounds, que grava uma consulta médica, transcreve a conversa e gera um documento completo da visita, e o AI-PRO da Clalit Health Services, que examina prontuários médicos todas as noites e apresenta recomendações e pacientes em risco aos médicos de família.
O documento de posição enfatiza que a promessa é grande, mas os riscos também o são. As recomendações de um sistema de IA podem ser tendenciosas se os dados de treinamento forem parciais, tendenciosos ou não representativos da população de pacientes. Outro risco é a falsa sensação de segurança: quando um sistema computadorizado dá uma resposta rápida, bem formulada e autoconfiante, é fácil acreditar nela.
O ambiente regulatório é fragmentado. Em janeiro, a FDA atualizou suas orientações sobre software para permitir que ferramentas de IA operem com menos supervisão ao auxiliar médicos, colocando softwares que permitem ao médico revisar de forma independente a base de uma recomendação de IA fora da regulamentação de dispositivos médicos da agência. No entanto, a exceção cobre apenas IA com um médico no circuito; não há isenção comparável para IA que fala diretamente com os pacientes, tornando a IA clínica mais autônoma a menos regulamentada. Os estados tomaram direções diferentes: Utah, Arizona e Texas estão construindo estruturas para acelerar a implementação, enquanto Nova York e Califórnia estão se movendo para restringir a IA na medicina. Legisladores de Nova York introduziram um projeto de lei que tornaria potencialmente ilegal a IA fornecer até mesmo orientação médica básica, e a Califórnia promulgou uma lei que exige divulgação aos pacientes quando a IA está envolvida.
Enquanto isso, dados mostram que um em cada três americanos está agora recorrendo a chatbots de IA para diagnosticar sintomas e direcionar cuidados, um número que dobrou em um único ano. Alguns médicos veem potencial na IA para ampliar o acesso. Um pediatra argumentou que uma IA bem projetada poderia simular interações de 'servir e devolver' para crianças, fazendo perguntas e se ajustando com base nas respostas, ao contrário do conteúdo passivo de telas. O governo federal também está solicitando propostas para desenvolver uma IA que gerencie de forma independente eventos de insuficiência cardíaca, uma doença para a qual apenas 1% dos pacientes recebe o regime de medicação recomendado e as taxas de mortalidade em cinco anos excedem 50%.