AI搭載の手術機器、2021年以降に安全性報告1,400件超

米国の規制当局は2021年以降、FDAのAIリストに記載された機器に関連する1,400件以上の報告を受け取っている。その中には、手術の失敗や、身体部位を誤認識したソフトウェアに関する告発も含まれる。FDAは少なくとも1,357件のAI統合医療機器を承認しており、これは2022年までに承認した数の2倍に相当する。

TruDi Navigation Systemは、Johnson & Johnson傘下のIntegra LifeSciencesの子会社であるAcclarent社が製造し、FDAの承認を得て過去3年間、手術室で使用されてきた。このツールは、患者の頭部内で手術を行う外科医を導くように設計されたナビゲーションシステムにAIが組み込まれている。以前はAIを使用していなかったが、2021年に耳鼻咽喉科医を手術で支援する機械学習アルゴリズムを含むよう更新された。

AIが追加される前、FDAは7件の誤動作報告と1件の負傷報告を受け取っていた。更新後、同庁は2025年末までに少なくとも100件の誤動作報告を記録し、そのうち10件が負傷だった。報告の多くは、頸動脈や頭蓋底などの重要な身体構造の近くで手術中に、システムが外科医に器具の位置について誤った情報を伝えたとされる事例を説明している。

現在法廷で審理中のテキサス州の2件の訴訟には、日常的な副鼻腔手術中に動脈が損傷を受けたとされる後、脳卒中を起こした患者が関わっている。ある女性は脳の腫れを軽減するために頭蓋骨の一部を切除する必要があった。訴訟は、AIコンポーネントが機器の信頼性を低下させたと主張している。ある訴訟では、「同社は、いわゆる人工知能が統合ナビゲーションシステム製品の一貫性がなく不正確で信頼性が低い傾向を引き起こした、または悪化させたことを知っていたか、知るべきであった」と主張している。

Integra LifeSciencesは、AI技術と負傷を結び付ける「信頼できる証拠はない」と応じた。各社はFDAの報告が過失を証明するものではないと主張している。FDAの誤動作に関する報告書は医療事故の原因を特定することを目的としていないため、これらの事象にAIがどのような役割を果たしたのかは明らかではない。

他のAI支援機器も性能問題の告発に直面している。Sonio Detectと呼ばれる出生前超音波ツールは、胎児の構造や身体部位を誤認識する欠陥のあるアルゴリズムを使用していると非難されている。Medtronic製の心臓モニターは、患者の異常なリズムや休止を認識できなかったという告発に直面している。

Johns Hopkins大学、Georgetown大学、Yale大学による共同の学術調査では、AI承認を受けた60の機器が合計182件のリコールに関連付けられ、そのほぼ半数が承認から1年以内に発生していることが判明した。JAMA Health Forumに掲載された研究では、これらのリコールの少なくとも43%がFDA承認から最初の12か月以内に発生しており、FDAの承認プロセスがAI技術の初期の性能不良を見落とす可能性があることを示唆している。

AI対応医療機器は、特に患者を対象とした臨床試験を受ける必要がないため、安全上のリスクをもたらす可能性がある。これらのAI手術ツールの多くは、視覚強調の分野に対応している。従来の腹腔鏡手術は外科医に大きな課題を突きつける。煙が術野を覆い、2次元画像では深さの知覚が難しく、重要な解剖学的構造を区別しにくいことがある。AI手術ツールはこれらの障害を取り除き、外科医に手術野の極めて明瞭な視界を提供できる。

米国保健福祉省のスポークスパーソンは、患者の安全は最優先事項であり、同省はAIとデジタルヘルスについてさらに学び続けると述べた。FDAはAI専門家の名簿を拡大したが、元従業員によると人員削減により業務量が増加したという。