KI-gestützte chirurgische Geräte seit 2021 mit über 1.400 Sicherheitsmeldungen in Verbindung gebracht
US-Aufsichtsbehörden haben seit 2021 mehr als 1.400 Meldungen zu KI-gestützten chirurgischen Geräten erhalten, darunter Vorwürfe verpfuschter Eingriffe und falsch erkannter Körperstrukturen. Während die FDA inzwischen über 1.300 KI-integrierte Medizinprodukte zugelassen hat, mehren sich Hinweise auf Fehlfunktionen, Rückrufe und mögliche Lücken in der frühen Leistungsbewertung.
U.S.-Aufsichtsbehörden haben seit 2021 mehr als 1.400 Meldungen zu Geräten erhalten, die auf der KI-Liste der FDA stehen, darunter Vorwürfe verpfuschter Operationen und Software, die Körperteile falsch identifizierte. Die FDA hat mindestens 1.357 KI-integrierte Medizinprodukte zugelassen – doppelt so viele, wie sie bis 2022 genehmigt hatte.
Das TruDi Navigation System, hergestellt von Acclarent, einer Tochtergesellschaft von Integra LifeSciences unter dem Dach von Johnson & Johnson, wird seit der FDA-Zulassung in den vergangenen drei Jahren in Operationssälen eingesetzt. In das Navigationssystem des Instruments, das Chirurginnen und Chirurgen bei Eingriffen im Kopf eines Patienten bzw. einer Patientin führen soll, ist KI eingebettet. Zuvor nutzte das Tool keine KI, wurde jedoch 2021 aktualisiert und um Machine-Learning-Algorithmen erweitert, um HNO-Ärztinnen und -Ärzte (Hals-Nasen-Ohren-Spezialistinnen und -Spezialisten) bei Operationen zu unterstützen.
Bevor KI hinzugefügt wurde, hatte die FDA sieben Meldungen zu Fehlfunktionen und eine Verletzung erhalten. Nach dem Update registrierte die Behörde bis Ende 2025 mindestens 100 Meldungen über Fehlfunktionen, darunter 10 Verletzungen. In vielen Berichten wird beschrieben, dass das System Chirurginnen und Chirurgen angeblich falsch darüber informierte, wo sich ihre Instrumente befanden, während sie in der Nähe kritischer Körperstrukturen wie der Halsschlagader (carotid artery) und der Schädelbasis operierten.
Zwei Fälle in Texas, die inzwischen vor Gericht verhandelt werden, betreffen Patientinnen und Patienten, die Schlaganfälle erlitten, nachdem bei routinemäßigen Nasennebenhöhlen-Eingriffen angeblich Arterien verletzt worden waren. Einer Frau musste ein Teil des Schädels entfernt werden, um eine Hirnschwellung zu entlasten. In den Klagen wird behauptet, die KI-Komponente habe das Gerät weniger zuverlässig gemacht. In einem Fall heißt es in der Klageschrift, das Unternehmen habe „gewusst oder hätte wissen müssen, dass die angebliche künstliche Intelligenz die Tendenz des integrierten Navigationssystems zu Inkonsistenz, Ungenauigkeit und Unzuverlässigkeit verursacht oder verschlimmert hat“.
Integra LifeSciences erwiderte, es gebe „keine glaubwürdigen Belege“, die die KI-Technologie mit den Verletzungen in Verbindung brächten. Die Unternehmen argumentieren, dass die FDA-Meldungen kein Verschulden nachweisen. FDA-Meldungen zu fehlerhaften Geräten sind nicht dazu bestimmt, Ursachen medizinischer Zwischenfälle festzustellen – daher ist unklar, welche Rolle KI bei diesen Ereignissen gespielt haben könnte.
Auch andere KI-gestützte Geräte sahen sich Vorwürfen von Leistungsproblemen ausgesetzt. Ein pränatales Ultraschall-Tool namens Sonio Detect wurde beschuldigt, einen fehlerhaften Algorithmus zu verwenden, der fetale Strukturen und Körperteile falsch identifiziert. Herzmonitore von Medtronic sahen sich Vorwürfen ausgesetzt, dass die Monitore abnorme Rhythmen oder Pausen bei Patientinnen und Patienten nicht erkannt hätten.
Eine gemeinsame akademische Auswertung von Johns Hopkins University, Georgetown und Yale ergab, dass 60 KI-zugelassene Geräte mit insgesamt 182 Rückrufen in Verbindung standen – nahezu die Hälfte davon innerhalb eines Jahres nach der Zulassung. In JAMA Health Forum veröffentlichte Forschungsergebnisse zeigten, dass mindestens 43% dieser Rückrufe innerhalb der ersten 12 Monate nach der FDA-Zulassung des Geräts erfolgten. Das deutet darauf hin, dass das Zulassungsverfahren der FDA frühe Leistungsprobleme von KI-Technologien übersehen könnte.
KI-fähige Medizinprodukte können Sicherheitsrisiken bergen – insbesondere, weil sie nicht verpflichtend klinische Studien (clinical trials) an Patientinnen und Patienten durchlaufen müssen. Viele dieser KI-chirurgischen Tools zielen auf die Verbesserung der Sicht. Die traditionelle laparoskopische Chirurgie stellt Operateurinnen und Operateure vor erhebliche Herausforderungen: Rauch verdeckt das Operationsfeld, zweidimensionale Bilder erschweren die Tiefenwahrnehmung, und kritische anatomische Strukturen sind mitunter schwer zu unterscheiden. KI-chirurgische Tools können diese Hindernisse beseitigen und Chirurginnen und Chirurgen kristallklare Sicht auf das Operationsfeld ermöglichen.
Eine Sprecherin bzw. ein Sprecher des U.S. Department of Health and Human Services sagte, die Patientensicherheit habe weiterhin oberste Priorität, und die Behörde werde weiterhin dazulernen, was KI und digitale Gesundheit betrifft. Die FDA hat ihr Team von KI-Spezialistinnen und -Spezialisten ausgebaut, ehemalige Mitarbeitende berichteten jedoch, dass Stellenkürzungen die Arbeitsbelastung erhöht hätten.