Perspektivbeitrag fordert globale Regulierungsrahmen für generative KI-Medizinprodukte
Ein Perspektivbeitrag bezeichnet globale Regulierungsrahmen für generative KI-Medizinprodukte als dringende Priorität. Hervorgehoben werden Risiken, die Grenzen bestehender Regeln und der Bedarf an multidisziplinärer internationaler Zusammenarbeit.
Ein Perspektivbeitrag besagt, dass die Entwicklung globaler Regulierungsrahmen für generative KI in Medizinprodukten eine dringende Priorität ist. Die Integration generativer KI und großer Sprachmodelle in das Gesundheitswesen bietet sowohl beispiellose Chancen als auch Herausforderungen und erfordert innovative Regulierungsansätze.
Der Beitrag erörtert die Risiken von GenAI und LLM-basierten Medizinprodukten sowie die Grenzen der derzeitigen Regulierungsrahmen für Medizinprodukte bei ihrer Anwendung auf GenAI oder LLMs. Er plädiert für eine globale Zusammenarbeit in der regulatorischen Wissenschaftsforschung unter Einbeziehung multidisziplinärer Expertise und mit Fokus auf die Bedürfnisse vielfältiger Bevölkerungsgruppen.
Der Beitrag verwies auf Food and Drug Administration, U.S.A. Total product lifecycle considerations for generative AI-enabled devices aus dem Jahr 2024, auf Arbeiten zu ethischen und regulatorischen Herausforderungen großer Sprachmodelle in der Medizin, zur Prüfung und Bewertung von Gesundheitsanwendungen großer Sprachmodelle, zur Benchmark-Bewertung von DeepSeek-Großsprachmodellen in der klinischen Entscheidungsfindung sowie zur Bewertung und Minderung der Grenzen großer Sprachmodelle in der klinischen Entscheidungsfindung. Außerdem wurden Arbeiten zu einem Instrumentarium zur Aufdeckung von Gesundheitsequitäts-Schäden und Verzerrungen in großen Sprachmodellen, zur Anfälligkeit medizinischer großer Sprachmodelle für Data-Poisoning-Angriffe sowie zur Algorithmovigilanz angeführt.
Dem Beitrag zufolge wurden im Rahmen der aktuellen Studie keine Datensätze erzeugt oder analysiert.