2024年、70社を超える医療AI企業がFDAの認可を得た。臨床AIへの投資は世界全体で150億ドルを超えた。大手の医療機関グループはこぞってAI戦略を打ち出した。
それでも、米国の病院で前触れなく容体が悪化する患者の数は、目に見えて変わってはいない。慢性腎臓病は、いまも見つかるまでに何年もかかる。外来での診断エラーは、いまも米国の成人だけで年に推定1,200万人に影響を及ぼしている。新しくかかった医師には、いまも自分の飲んでいる薬を思い出して答えるよう求められる。
どこかで、やり方が間違っている。
医療AIの多くが実際にしていること
臨床AI製品の多くは、記録を要約するか、画像を分類するか、数値が閾値を超えたときにアラートを出すかのどれかだ。どれも役に立つ。そして、どれもラッパーにすぎない。臨床データを今の形のまま受け取り、モデルに通し、結果を示す。もとのデータは何も変わらない。システムが患者をどう捉えるかも変わらない。
AIの支援を受けて胸部X線を読む放射線科医も、読んでいるのはある一瞬を写した一枚の画像だ。AIは、彼女が見落としたかもしれない結節を拾うかもしれない。それには確かに価値がある。だがAIには、この患者の呼吸機能が三年間に五回の検査を通じて低下し続けていること、八か月前の薬の変更を境にその低下が加速したこと、このままいけば18か月以内にCOPDに至る見通しであることは伝えられない。その情報は存在する。ただ、複数の医療機関と何年もの時間に散らばっている。ラッパーにはそこまで手が届かない。ラッパーに見えるのは、目の前の受診だけだからだ。
ほとんどの臨床AIにとって、分析の単位は一回の受診であり、一つの記録であり、一枚の画像である。人間の病気にとって、その単位は年だ。この二つが噛み合わないかぎり、医療のAIは間違った問いに速く答え続けるだろう。
人間の病気を測る単位は、年である。
速さという罠
誰もが挙げる利点は速さだ。退院サマリーを数秒で要約する。医師が会話を終えるまでに紹介状の下書きを作る。自由記述から診断名を瞬時に抜き出す。
医師の燃え尽きは現実の問題で、記録業務の負担は耐えがたいほど重い。臨床に時間を取り戻せるものなら、何であれ価値がある。だが、今のインフラの上で速くしても、解けるのは効率の問題だけだ。今日の診察を完璧に要約してもらった医師も、自分の患者のクレアチニンがこの二年間、三つの医療機関をまたいで上がり続けてきたことは知らないままである。要約は速くなった。見えている臨床像は何も変わっていない。
医療機関はワークフローを速くするAIを導入し、生産性が上がったと報告し、AI戦略は成功したと言う。そのあいだも、病気が育ちはじめてから見つかるまでの時間差は少しも縮まっていない。システムは同じ方向へ、前より速く進んでいる。その方向が正しいのかを、誰も問わなかった。
業界がラッパーを作る理由
ラッパーを作るのは合理的だ。事前学習済みのモデルを臨床テキストでファインチューニングすれば、数か月で製品を出せる。検証も単純で、記録を入れれば要約が出てくる。売り方もおなじみだ。「御院の電子カルテにつなぐだけで、もっと賢くなります」。データ基盤をめぐる難しい話も要らないし、ワークフローを乱すこともない。
時間をかけて健康を読むものを作るのは、まったく別の仕事だ。何年にもわたり、複数の医療機関をまたいで患者を表現しなければならない。位置ではなく向きにもとづいて考える臨床推論を組み立てなければならない。何百もの施設で検証しなければならない。そして病院に、病気を二年早く見つけられるなら、要約プラグインよりも深い統合に踏み込む価値があると納得してもらわなければならない。
時間もかかるし、費用もかさむ。しかも、たいていのチームには手に負えない話し合いが避けて通れない。それでも、実際の臨床の空白に向き合える方法は、これしかない。
ブラックボックスが事態を悪くする
臨床AIの多くは、ラッパーであるうえにブラックボックスでもある。モデルがデータを取り込み、出力を返す。医師にはその推論が見えない。どの入力が結論を左右したのかを問いただすこともできない。途中の段階を自分の判断で吟味することもできない。目に見える途中の段階がそもそもないからだ。
現場の臨床医は、こうした出力を、電子カルテに出る何百もの他のアラートと同じように扱う。疑ってかかり、身についた反射で閉じてしまう。中身の見えないシステムの活用率は、決まって10〜15パーセントにとどまる。システムがアラートを出し、臨床医はそれを無視する。AIは動いているのに、臨床的には何の働きもしていない。
臨床医の活用率が80パーセントを超えたシステムには、一つの共通点がある。推論が見えることだ。臨床医は何が評価を導いたのかを確かめられ、特定の部分について異を唱えられる。それがなければ、現場には根づかない。私は自分で作りはじめるまでの何年ものあいだ、根づかない様子を見続けてきた。
本当に違うものとは
ある患者のクレアチニンが、18か月のあいだに二つの医療機関をまたいで、四半期ごとに0.1ずつ上がっている。どの値もアラームを鳴らさなかった。受診のたびに、数値は「範囲内」だった。推移を読むシステムなら、これを捉える。医師が受け取るアラートには、推移と、予測される経過と、フラグの根拠となった臨床推論が示される。彼女はそれを確かめ、納得し、患者が閾値を超える一年前に腎臓内科へ紹介する。
私たちが Chroneme で捉えようとしているのは、こうした変化だ。事前登録したプロトコルのもとで検証を進めており、その結果は、及ばなかった点も含めて公表する。
ICUでのゆっくりした変化を捉える知能は、プライマリ・ケアの外来でのゆっくりした変化も捉えられる。数週間かけて上がっていく心拍数にフラグを立てるシステムは、何年もかけて上がっていくA1cにもフラグを立てられる。仕組みは変わらない。変わるのは時間の尺度だけだ。
150億ドル。70件の認可。それでも、患者の経験は何も変わっていない。
それが変わるのは、インフラが変わるときだ。臨床AIがスナップショットではなく推移を読むようになったとき。システムが推論を隠さず、見せるようになったとき。健康が、事が起きてから見つかるものではなく、時間とともに変わっていく様子を本人が見られるものになったときである。
それが、私たちが Chroneme で作っているものだ。