Un point de vue appelle à des cadres réglementaires mondiaux pour les dispositifs médicaux fondés sur l’IA générative

Un article de point de vue indique que l’élaboration de cadres réglementaires mondiaux innovants pour l’IA générative dans les dispositifs médicaux constitue une priorité urgente. L’intégration de l’IA générative et des grands modèles de langage dans les soins de santé offre à la fois des opportunités et des défis sans précédent, ce qui nécessite des approches réglementaires innovantes.

L’article examine les risques des GenAI et des dispositifs médicaux fondés sur des LLM ainsi que les limites des cadres réglementaires actuels applicables aux dispositifs médicaux lorsqu’ils sont appliqués aux GenAI ou aux LLM. Il plaide en faveur d’une collaboration mondiale dans la recherche en science réglementaire, en mobilisant une expertise multidisciplinaire et en se concentrant sur les besoins de populations diverses.

L’article cite Food and Drug Administration, U.S.A. Total product lifecycle considerations for generative AI-enabled devices en 2024, des travaux sur les défis éthiques et réglementaires des grands modèles de langage en médecine, sur les tests et l’évaluation des applications des grands modèles de langage dans les soins de santé, sur l’évaluation de référence des grands modèles de langage DeepSeek dans la prise de décision clinique, ainsi que sur l’évaluation et l’atténuation des limites des grands modèles de langage dans la prise de décision clinique. Il fait également référence à des travaux sur une boîte à outils destinée à faire émerger les préjudices en matière d’équité en santé et les biais dans les grands modèles de langage, sur la vulnérabilité des grands modèles de langage médicaux aux attaques par empoisonnement de données, et sur l’algorithmovigilance.

L’article indique qu’aucun ensemble de données n’a été généré ni analysé au cours de l’étude actuelle.