生成AI医療機器に向けた世界的な規制枠組みの整備を提言
パースペクティブ論文は、生成AI医療機器に対する世界的な規制枠組みの整備が喫緊の課題だと指摘している。GenAIのリスク、現行規制の限界、多分野の専門家による国際連携の必要性を強調している。
医療機器におけるgenerative AIのための世界的な規制枠組みを革新することが喫緊の課題であると、あるパースペクティブ論文が述べた。医療における生成AIと大規模言語モデルの統合は、前例のない機会と課題の両方をもたらしており、革新的な規制アプローチを必要としている。
この論文は、GenAIおよびLLM-based medical devicesのリスク、ならびにGenAIやLLMに適用する際の現行の医療機器規制枠組みの限界について論じている。そして、多分野の専門知識を結集し、多様な集団のニーズに焦点を当てることで、規制科学研究における国際的な連携を進めるよう提唱している。
この論文は、2024年のFood and Drug Administration, U.S.A. Total product lifecycle considerations for generative AI-enabled devices、医療における大規模言語モデルの倫理的・規制上の課題に関する研究、大規模言語モデルのヘルスケア応用の試験と評価、臨床意思決定におけるDeepSeek大規模言語モデルのベンチマーク評価、ならびに臨床意思決定における大規模言語モデルの限界の評価と緩和に関する研究を引用した。さらに、大規模言語モデルにおける健康の公平性への害とバイアスを可視化するためのツールボックス、大規模医療言語モデルがデータ汚染攻撃に対して脆弱であること、そしてalgorithmovigilanceに関する研究にも言及した。
この論文は、今回の研究ではデータセットの生成も解析も行われなかったと述べた。