医療AIを見張る仕組みを、誰がつくるのか

心不全の患者を、次の診察まで誰が支えるのか。米ARPA-HのADVOCATEは、患者対応のAIと、それを見張るAIを並行して開発する計画だ。予約や服薬、食事・運動の調整まで支援範囲に含め、医療チームと連携して使うことを目指す。公式プログラム ↗

2026年9月9日の採択発表では、4年間のプログラムに6,270万ドル、初年度は最大3,370万ドルを掲げた。全額がすでに支出されたという意味ではない。患者に接する技術だけでなく、監督と導入後の検証にも研究費を投じる構成になっている。採択発表 ↗

役割・担当は採択発表 ↗による。

研究者が注目したいのは、AIの判断をどう監督するかという具体的な方法だ。Stanfordの計画は、異常な出力の選別、ルールに基づく点検、詳しい調査を伴う監査を段階的に行い、個々の判断を後から点検できるよう根拠を残すものだ。モデルの回答を別のモデルに見せるだけではなく、どの検査をいつ行い、判断の根拠をどこまで記録するかが開発対象になる。監督AIの採択詳細 ↗

医療現場での評価は、モデルの性能を高める研究とは別の課題だ。Kaiserの計画には、診療へ直接反映させずにAIを動かす試行や、通常の診療に組み込んだ無作為化試験が含まれる。正答率を上げる研究と、導入後に患者の状態や医療者の仕事がどう変わるかを調べる研究は、同じではない。実装の採択詳細 ↗

こうした役割分担を踏まえると、研究に生かせる技術は対話モデルに限らない。異常の検出、臨床ルールの実装、監査記録、電子カルテとの接続、介入の効果を測る試験設計も候補になる。「自分たちの技術で、誰のどの判断を確かめられるか」と考えれば、研究テーマも捉え直せる。ただし、これは採択内容の読み解きであり、現在応募できる公募の案内ではない。

日本で同様の研究を組むなら、医療機関との連携を開発の最後に回すことはできない。記録が欠けた場合の扱い、警報を受け取る担当者、夜間に引き継ぐ手順まで、評価方法と一緒に決める必要がある。監督AIにも見逃しや誤警報はありうる。見逃しが重なったときに気づけるか、警報が多すぎて現場の負担を増やさないか。その検証を開発側だけで終わらせないことが重要だ。

患者対応AIには、契約採択から24か月以内のFDA申請資料提出が求められる。今回発表されたのは承認・許可を目指す開発計画であり、すでに承認・許可を得た製品の発表ではない。採択発表 ↗ 次に見たいのは、申請の進捗だけでなく、どのような誤りを検出でき、必要な場面でどれだけ適切に医療者へつなげられたかという結果である。