AIの臨床応用が進む中、研究者と医療団体が線引きを求める
医療におけるAIの可能性と危険性を浮き彫りにする新しい研究とガイドラインが発表された。ダートマス大学の研究ではAIが作成した患者向けメッセージに誤りが混入し得ることが示され、イスラエル医師会は新たな見解書を発表した。規制当局の対応はさまざまで、FDAのガイダンスや州法は依然として進化途上にある。
人工知能（AI）は救急外来、地域診療所、患者ポータルへと進出しつつあるが、研究や専門家による指針の蓄積は、安全策が必要だと警告している。2026年計算言語学会年次大会で発表されたダートマス大学の研究では、AIが作成した患者への返信に誤りや余計な詳細が混入し得ることが判明した。また、イスラエル医師会は、医療における同技術の使用範囲を定義する見解書を発表した。
ダートマス大学の研究者らは、大規模な地方医療システムにおいて1万105人の患者とその主治医の間で交わされた14万6000件の会話を分析した。これは、AIが返信の下書きを作成するオンライン患者ポータルに関する初の大規模研究である。その結果、AIが生成した回答は、臨床医が実際に書く内容と頻繁に乖離することが判明した。回答が長すぎる、フォローアップの質問をしない、無関係または不正確な医学的詳細を使用する、といった具合だ。その結果、医師は返信を書き上げるよりも編集に多くの時間を費やす可能性があると研究者らは報告している。一例として、ポータルのAIは、逆流性食道炎の薬を服用しており絶え間ない吐き気を訴える32歳の女性に、薬の調整が必要かもしれないと伝えることを提案したが、医師は妊娠の可能性があるかどうかを尋ねた。
研究者らは、Claude、Gemini、ChatGPTによって作成された回答に加え、Llama、Aloe、Qwenという3つの小規模な商用プラットフォームによる回答を評価した。AIを個々の医師のコミュニケーション様式に適合させることで、正確性が33%向上し、編集作業が26%削減されることを示した。研究チームはまた、TADPOLE（Thematic Agentic Direct Preference Optimization for Learning Enhancement）と呼ばれる手法を開発した。これは、AIプラットフォームを訓練して、精度と情報の質に関する医師の基準により適合させるものである。このTADPOLEを6つの商用大規模言語モデルに組み込むと、それらの基準により適合した下書き回答が生成され、多忙な臨床医の1日あたり1〜2時間の作業を節約できる可能性があると共著者の1人は述べている。
イスラエル医師会は、医療品質研究所とイスラエル医療リスク管理・患者安全学会を通じて、今月、ルールを定義しようとする見解書を発表した。すなわち、テクノロジーを利用するがそれに支配されないこと、診断と治療を改善するために支援を受けるが、それを意思決定を行う隠れた医師に変えないことである。見解書は、2024年5月時点で米国食品医薬品局（FDA）が人工知能を使用する882件の医療機器を承認しており、放射線科が671件（76%）を占めると指摘している。また、診察を記録し、会話を文字起こしし、完全な診察文書を生成する「Rounds」や、毎晩医療記録をスキャンして推奨事項とリスクのある患者を家庭医に提示するClalit Health Servicesの「AI-PRO」といったシステムについても説明している。
見解書は、可能性は大きいがリスクも同様に大きいと強調している。AIシステムの推奨事項は、トレーニングデータが部分的、偏っている、または患者集団を代表していない場合、偏りが生じる可能性がある。もう一つのリスクは誤った安心感である。コンピューターシステムが迅速で、うまく表現され、自信に満ちた回答を返すと、それを信じてしまいがちだからだ。
規制環境は断片的である。1月、FDAはソフトウェアに関するガイダンスを更新し、AIツールが医師を支援する場合に監督を緩和した。これにより、医師がAIの推奨根拠を独自にレビューできるようにするソフトウェアは、FDAの医療機器規制の対象外となった。しかし、この適用除外は医師が関与するAIにのみ適用され、患者と直接対話するAIには同等の免除はなく、最も自律的な臨床AIが最も規制されていないという状況になっている。州によって動きは異なる。ユタ州、アリゾナ州、テキサス州は導入を加速する枠組みを構築しているが、ニューヨーク州とカリフォルニア州は医療におけるAIを制限する方向に動いている。ニューヨーク州議会は、AIが基本的な医学的助言を提供することさえも違法にする可能性のある法案を提出し、カリフォルニア州はAIが関与する場合に患者への開示を義務付ける法律を制定した。
一方、データによると、米国人の3人に1人が現在、症状の診断とケアの指示のためにAIチャットボットを利用しており、この数字は1年間で2倍になった。一部の医師は、AIが医療へのアクセスを拡大する可能性を見ている。ある小児科医は、うまく設計されたAIは、受動的な画面コンテンツとは異なり、質問をしたり、応答に基づいて調整したりすることで、子どもとの「サーブ・アンド・リターン」的相互作用をシミュレーションできると主張している。連邦政府もまた、心不全イベントを独立して管理するAIの開発提案を募集している。心不全は、推奨される薬物療法を受けている患者がわずか1%で、5年死亡率が50%を超える疾患である。