Plus de 1 400 signalements de sécurité depuis 2021 pour des dispositifs chirurgicaux dopés à l’IA

Les autorités de réglementation américaines ont reçu plus de 1 400 signalements depuis 2021 concernant des dispositifs figurant sur la liste IA de la FDA, notamment des allégations d’interventions chirurgicales ratées et de logiciels ayant mal identifié des parties du corps. La FDA a autorisé au moins 1 357 dispositifs médicaux intégrant l’IA, soit le double du nombre approuvé jusqu’en 2022.

Le TruDi Navigation System, fabriqué par Acclarent, filiale d’Integra LifeSciences au sein de l’écosystème Johnson & Johnson, est utilisé au bloc opératoire depuis trois ans après avoir obtenu l’autorisation de la FDA. L’IA est intégrée au système de navigation de l’outil, conçu pour guider les chirurgiens intervenant à l’intérieur de la tête d’un patient. L’outil n’utilisait pas auparavant l’IA, mais a été mis à jour en 2021 pour inclure des algorithmes d’apprentissage automatique (machine learning) afin d’aider les spécialistes ORL lors des interventions.

Avant l’ajout de l’IA, la FDA avait reçu sept signalements de dysfonctionnement et une déclaration de blessure. Après la mise à jour, l’agence a enregistré au moins 100 signalements de dysfonctionnements, dont 10 blessures, jusqu’à fin 2025. Nombre de ces signalements décrivent un système qui aurait fourni aux chirurgiens des informations erronées sur la localisation de leurs instruments, alors qu’ils opéraient à proximité de structures corporelles critiques comme l’artère carotide et la base du crâne.

Deux affaires au Texas, actuellement devant les tribunaux, concernent des patients ayant subi des AVC après que des artères auraient été endommagées lors de procédures sinusiennes de routine. Une femme a dû se faire retirer une partie du crâne afin de soulager un œdème cérébral. Les plaintes affirment que la composante IA a rendu le dispositif moins fiable. Dans une affaire, la plainte avance que l’entreprise « savait ou aurait dû savoir que la prétendue intelligence artificielle avait causé ou aggravé la tendance du produit de navigation intégré à être incohérent, inexact et peu fiable ».

Integra LifeSciences a répondu qu’il n’existait « aucune preuve crédible » reliant la technologie d’IA aux blessures. Les entreprises soutiennent que les signalements à la FDA ne prouvent pas une faute. Les signalements à la FDA portant sur des dispositifs défaillants n’ont pas pour objectif de déterminer les causes d’incidents médicaux ; il n’est donc pas clair quel rôle l’IA a pu jouer dans ces événements.

D’autres dispositifs assistés par IA ont également fait l’objet d’allégations de problèmes de performance. Un outil d’échographie prénatale appelé Sonio Detect a été accusé d’utiliser un algorithme défectueux qui identifie mal des structures et des parties du corps fœtal. Des moniteurs cardiaques fabriqués par Medtronic ont été visés par des allégations selon lesquelles les moniteurs n’auraient pas reconnu des rythmes anormaux ou des pauses chez des patients.

Une revue académique conjointe de la Johns Hopkins University, de Georgetown et de Yale a constaté que 60 dispositifs autorisés avec IA étaient associés à un total de 182 rappels, près de la moitié survenant dans l’année suivant l’autorisation. Des recherches publiées dans JAMA Health Forum ont montré qu’au moins 43% de ces rappels intervenaient dans les 12 premiers mois suivant l’autorisation de la FDA, suggérant que le processus d’autorisation de la FDA peut passer à côté de défaillances précoces de performance des technologies d’IA.

Les dispositifs médicaux dotés d’IA peuvent présenter des risques de sécurité, notamment parce qu’ils ne sont pas tenus de passer par des essais cliniques (clinical trials) chez des patients. Beaucoup de ces outils chirurgicaux à base d’IA visent l’amélioration de la vision. La chirurgie laparoscopique traditionnelle pose des défis importants aux chirurgiens : la fumée obscurcit le champ opératoire, les images en deux dimensions compliquent la perception de la profondeur et des structures anatomiques critiques peuvent être difficiles à distinguer. Les outils chirurgicaux utilisant l’IA peuvent lever ces obstacles et offrir aux chirurgiens une visualisation parfaitement nette du champ opératoire.

Une porte-parole du U.S. Department of Health and Human Services a indiqué que la sécurité des patients restait la priorité absolue et que l’agence continuerait à approfondir ses connaissances sur l’IA et la santé numérique. La FDA a élargi son équipe de spécialistes de l’IA, bien que d’anciens employés aient déclaré que des réductions d’effectifs avaient accru les charges de travail.