제너레이티브 AI 의료기기 위한 글로벌 규제 체계 마련 촉구
퍼스펙티브 논문은 생성형 AI 의료기기를 위한 글로벌 규제 체계 마련이 시급한 과제라고 밝혔다. 논문은 위험성과 현행 규제의 한계를 짚고, 다학제 협력과 다양한 인구집단의 요구를 반영한 글로벌 규제과학 연구를 촉구했다.
의료기기에서 생성형 AI(generative AI)를 위한 글로벌 규제 체계 혁신이 시급한 우선과제라는 내용의 퍼스펙티브 논문이 발표됐다. 의료 분야에서 생성형 AI와 대규모 언어모델의 통합은 전례 없는 기회와 도전을 동시에 제시하며, 이에 따라 혁신적인 규제 접근이 필요하다고 했다.
이 논문은 GenAI 및 LLM 기반 의료기기의 위험성과, 이를 GenAI 또는 LLM에 적용할 때 현행 의료기기 규제 체계가 지닌 한계를 논의했다. 또한 다학제적 전문성을 결집하고 다양한 인구집단의 요구에 초점을 맞춤으로써 규제과학 연구에서 글로벌 협력이 필요하다고 주장했다.
논문은 2024년의 Food and Drug Administration, U.S.A. Total product lifecycle considerations for generative AI-enabled devices와 함께, 의학에서 대규모 언어모델의 윤리적·규제적 과제, 대규모 언어모델의 의료 애플리케이션에 대한 시험 및 평가, 임상 의사결정에서 DeepSeek 대규모 언어모델의 벤치마크 평가, 임상 의사결정에서 대규모 언어모델의 한계에 대한 평가와 완화에 관한 연구를 인용했다. 또한 대규모 언어모델에서 건강 형평성 위해와 편향을 드러내기 위한 툴박스, 데이터 포이즈닝 공격에 취약한 의료 대규모 언어모델, 그리고 algorithmovigilance에 관한 연구도 참고했다.
논문은 이번 연구에서 생성되거나 분석된 데이터셋은 없었다고 밝혔다.