L’IA dans la pratique clinique : chercheurs et organisations médicales appellent à des garde-fous

L’intelligence artificielle fait son entrée dans les services d’urgence, les cliniques de proximité et les portails patients, mais un nombre croissant de recherches et de recommandations professionnelles avertit que des garde-fous sont nécessaires. Une étude de Dartmouth présentée lors de la réunion annuelle 2026 de l’Association for Computational Linguistics a révélé que les réponses aux patients rédigées par l’IA peuvent introduire des erreurs et des détails superflus, tandis que l’Association médicale israélienne a publié un document de position définissant les limites de l’utilisation de cette technologie en médecine.

Les chercheurs de Dartmouth ont analysé 146 000 conversations entre 10 105 patients et leurs médecins traitants au sein d’un grand système de santé rural, dans le cadre de la première étude à grande échelle d’un portail patient en ligne qui utilise l’IA pour rédiger des réponses. Ils ont constaté que les réponses générées par l’IA s’écartent souvent de ce que les cliniciens écriraient en réalité : des réponses trop longues, qui ne posent pas de questions de suivi, et qui utilisent des détails médicaux non pertinents ou inexacts. En conséquence, les médecins peuvent passer plus de temps à corriger les réponses qu’ils n’en auraient mis à les rédiger eux-mêmes, rapportent les chercheurs. Dans un exemple, l’IA du portail suggérait de dire à une femme de 32 ans prenant un médicament contre le reflux acide et se plaignant de nausées constantes que son traitement nécessitait peut-être un ajustement du régime alimentaire ; un médecin lui a plutôt demandé s’il était possible qu’elle soit enceinte.

Les chercheurs ont évalué les réponses rédigées par Claude, Gemini et ChatGPT, ainsi que par trois plateformes commerciales plus petites, Llama, Aloe et Qwen. Ils ont montré qu’adapter l’IA à la manière de communiquer de chaque médecin améliore la précision de 33 % et réduit le temps de correction de 26 %. L’équipe a également développé une technique appelée TADPOLE — Thematic Agentic Direct Preference Optimization for Learning Enhancement — qui entraîne les plateformes d’IA à mieux correspondre aux exigences des médecins en matière de précision et de qualité de l’information. L’intégration de TADPOLE dans les six LLM commerciaux a produit des réponses plus conformes à ces exigences, ce qui, selon l’un des co-auteurs, pourrait faire gagner à un clinicien occupé une à deux heures de travail par jour.

L’Association médicale israélienne, par l’intermédiaire de l’Institut pour la qualité en médecine et de la Société israélienne de gestion des risques et de sécurité des patients en médecine, a publié ce mois-ci un document de position qui tente de définir les règles du jeu : utiliser la technologie sans s’en rendre esclave ; se faire assister par elle pour améliorer le diagnostic et le traitement, mais ne pas en faire un médecin caché qui prend les décisions. Le document note que depuis mai 2024, la Food and Drug Administration (FDA) américaine avait approuvé 882 dispositifs médicaux utilisant l’intelligence artificielle, dont 671 dispositifs en radiologie, soit 76 %. Il décrit également des systèmes tels que Rounds, qui enregistre une consultation médicale, transcrit la conversation et génère un document complet de la visite, et AI-PRO de Clalit Health Services, qui analyse les dossiers médicaux chaque nuit et fait remonter des recommandations ainsi que des patients à risque aux médecins de famille.

Le document de position souligne que les promesses sont grandes, mais les risques le sont tout autant. Les recommandations d’un système d’IA peuvent être biaisées si les données d’entraînement sont partielles, biaisées ou non représentatives de la population de patients. Un autre risque est le faux sentiment de sécurité : lorsqu’un système informatique donne une réponse rapide, bien formulée et assurée, on est facilement enclin à y croire.

L’environnement réglementaire est fragmenté. En janvier, la FDA a mis à jour ses lignes directrices sur les logiciels afin de permettre aux outils d’IA de fonctionner avec une surveillance réduite lorsqu’ils assistent les médecins, en plaçant les logiciels qui permettent à un médecin de vérifier de manière indépendante le fondement d’une recommandation de l’IA hors du champ de sa réglementation des dispositifs médicaux. Toutefois, cette dérogation ne couvre que l’IA avec un médecin dans la boucle ; il n’existe pas d’exemption comparable pour l’IA qui s’adresse directement aux patients, ce qui rend l’IA clinique la plus autonome la moins réglementée. Les États fédérés ont pris des directions différentes : l’Utah, l’Arizona et le Texas construisent des cadres pour accélérer le déploiement, tandis que New York et la Californie cherchent à restreindre l’IA en médecine. Les législateurs de l’État de New York ont introduit un projet de loi qui rendrait potentiellement illégal pour l’IA de fournir ne serait-ce que des conseils médicaux de base, et la Californie a promulgué une loi imposant l’information des patients lorsque l’IA est impliquée.

Parallèlement, les données montrent qu’un Américain sur trois s’adresse désormais à des chatbots d’IA pour diagnostiquer des symptômes et orienter les soins, un chiffre qui a doublé en une seule année. Certains médecins voient dans l’IA un potentiel pour élargir l’accès aux soins. Un pédiatre a fait valoir qu’une IA bien conçue pourrait simuler des interactions de type « serve and return » pour les enfants, en posant des questions et en s’adaptant aux réponses, contrairement à un contenu d’écran passif. Le gouvernement fédéral sollicite également des propositions pour développer une IA capable de gérer de manière autonome les épisodes d’insuffisance cardiaque, une maladie pour laquelle seulement 1 % des patients reçoivent le schéma thérapeutique recommandé et où le taux de mortalité à cinq ans dépasse 50 %.