AI 기반 수술 장비 안전 사고 보고 2021년 이후 1,400건 돌파

미국 규제 당국은 2021년 이후 FDA의 AI 목록에 오른 기기들과 관련하여, 수술 실패 사례나 신체 부위를 잘못 식별한 소프트웨어 등에 대한 보고를 1,400건 이상 접수했다. FDA는 현재까지 최소 1,357개의 AI 통합 의료 기기를 허가했으며, 이는 2022년 말까지 허가된 기기 수의 두 배에 해당한다.

Integra LifeSciences 산하 Acclarent가 제조한 TruDi Navigation System은 FDA 승인 이후 지난 3년 동안 수술실에서 사용되어 왔다. 이 도구의 내비게이션 시스템에는 환자의 머리 내부를 수술하는 외과의를 안내하기 위한 AI가 내장되어 있다. 원래는 AI를 사용하지 않았지만, 2021년 업데이트를 통해 이비인후과 전문의의 수술을 돕기 위한 머신러닝 알고리즘이 추가되었다.

AI가 추가되기 전, FDA에 접수된 오작동 보고는 7건, 부상은 1건이었다. 그러나 업데이트 이후 당국은 2025년 말까지 최소 100건의 오작동 보고와 10건의 부상을 기록했다. 보고서의 상당수는 시스템이 경동맥이나 두개골 기저부와 같은 치명적인 신체 구조 근처에서 수술 도구의 위치를 외과의에게 잘못 알려주었다고 주장한다.

현재 텍사스에서 소송이 진행 중인 두 사례의 경우, 환자들은 일상적인 부비동 치료 중 동맥이 손상되어 뇌졸중을 겪었다. 한 여성은 뇌 부종을 가라앉히기 위해 두개골 일부를 제거해야 했다. 소송 측은 AI 구성 요소가 장비의 신뢰성을 떨어뜨렸다고 주장한다. 한 사례에서 소장은 해당 업체가 "소위 인공지능이라는 기능이 통합 내비게이션 시스템 제품의 일관성 결여, 부정확성 및 불신뢰성을 유발하거나 악화시킨다는 사실을 알았거나 알았어야 했다"고 기술하고 있다.

이에 대해 Integra LifeSciences 측은 AI 기술과 부상 사이에 "신뢰할 만한 근거가 없다"고 답변했다. 관련 업체들은 FDA 보고서가 과실을 증명하는 것은 아니라고 주장한다. 실제로 오작동 장비에 대한 FDA 보고서는 의료 사고의 원인을 규명하기 위한 목적이 아니므로, 이러한 사건에서 AI가 어떤 역할을 했는지는 명확하지 않다.

다른 AI 보조 기기들도 성능 문제와 관련된 주장에 직면해 있다. Sonio Detect라는 산전 초음파 도구는 태아의 구조와 신체 부위를 잘못 식별하는 결함 있는 알고리즘을 사용했다는 비판을 받고 있다. Medtronic의 심장 모니터 또한 환자의 이상 리듬이나 일시 정지 상태를 인식하지 못했다는 주장이 제기되었다.

존스홉킨스 대학교, 조지타운 대학교, 예일 대학교의 공동 학술 검토에 따르면, 60개의 AI 허가 기기가 총 182건의 리콜과 연관되어 있으며 이 중 거의 절반이 승인 후 1년 이내에 발생했다. 'JAMA Health Forum'에 발표된 연구 결과, 이러한 리콜의 최소 43%가 기기의 FDA 승인 후 첫 12개월 이내에 발생했다는 사실은 FDA의 승인 과정이 AI 기술의 조기 성능 결함을 간과하고 있을 가능성을 시사한다.

AI 기반 의료 기기는 환자를 대상으로 한 임상 시험을 거칠 의무가 없기 때문에 안전 위험을 초래할 수 있다. 이러한 AI 수술 도구 중 상당수는 시각 강화 분야를 다룬다. 전통적인 복강경 수술은 외과의에게 큰 어려움을 준다. 연기가 수술 시야를 가리고, 2차원 이미지는 거리 감각을 어렵게 만들며, 중요한 해부학적 구조를 구별하기 힘들게 하기 때문이다. AI 수술 도구는 이러한 장애물을 제거하고 외과의에게 수술 부위의 선명한 시야를 제공할 수 있다.

미국 보건복복지부(HHS) 대변인은 환자 안전이 여전히 최우선 과제이며, 당국은 AI와 디지털 헬스에 대해 계속해서 더 많은 것을 배워나갈 것이라고 밝혔다. FDA는 AI 전문가 명단을 확대했으나, 전직 직원들은 인력 감축으로 인해 업무량이 증가했다고 전했다.