←紀事

醫療AI的「包裝層」問題

大多數醫療AI,只是把同一個錯誤犯得更快

Chroneme / 紀事

2024年,超過70家醫療AI公司取得了FDA許可。全球臨床AI投資突破150億美元。各大醫療體系紛紛發表了自己的AI策略。

可是在美國的醫院裡,毫無預警就病情惡化的病人,數量並沒有實質改變。慢性腎臟病仍要拖上好幾年才被發現。據估計,美國每年仍有約1,200萬名成年人在門診中受到診斷錯誤的影響。換了新醫師,你還是得自己背出正在吃的藥。

路走錯了。

大多數醫療AI到底在做什麼

大多數臨床AI產品,做的不外乎三件事:摘要病歷,替影像分類,在數字越過閾值時發出警示。都有用,也都只是包裝層(wrapper)。它們把臨床資料原封不動地拿來,跑一遍模型,再把結果呈現出來。底層的資料沒有變,系統理解病人的方式也沒有變。

放射科醫師借助AI判讀胸部X光,讀的仍然是某一刻的一張片子。AI也許能抓到一顆她會漏掉的結節,這確實可貴。但它沒辦法告訴她:這位病人三年裡做過五次肺功能檢查,結果一路下滑;八個月前換藥之後,下降明顯加快;照這條軌跡,18個月內就會發展成慢性阻塞性肺病。這些資訊都在,只是散落在不同的醫療院所、不同的年份裡。任何包裝層都搆不著它們,因為包裝層只看得見眼前這一次看診。

幾乎所有臨床AI的分析單位,都是一次看診、一份病歷、一張影像。而人類疾病的分析單位是年。兩者一天對不上,醫療AI就只會不停地替錯誤的問題提供更快的答案。

人類疾病的分析單位,是年。

速度的陷阱

人人都在講速度:幾秒鐘寫好出院摘要;醫師還在跟病人說話,轉診單已經擬好;自由文字裡的診斷,立刻就能擷取出來。

醫師的職業倦怠是真的,文書負擔也確實壓得人喘不過氣。任何能把時間還給臨床照護的東西,都有價值。但在現有的基礎建設上加速,解決的只是效率問題。一位醫師拿到了今天這次門診完美的AI摘要,卻依然不知道,過去兩年裡,她的病人在三家醫療院所的肌酸酐一直在升高。摘要是快了,臨床全貌卻分毫未變。

醫療體系導入能讓流程加速的AI,交出一串生產力提升的數字,然後宣布AI策略大獲成功。與此同時,從疾病開始發展到它被發現之間的那段時間,一點也沒有縮短。整個體系只是朝著原來的方向跑得更快,卻沒有人問過,這個方向對不對。

為什麼整個產業都在做包裝層

做包裝層,是理性的選擇。拿一個預訓練模型,用臨床文本微調一下,幾個月就能推出產品。驗證很單純:病歷進去,摘要出來。銷售說法也是現成的:「我們接上您的電子病歷,讓它變得更聰明。」不必為資料架構展開艱難的協商,也不會打亂任何工作流程。

要做一套能隨時間讀懂健康的系統,則完全是另一回事。你得把病人橫跨多年、橫跨多家院所的經歷完整呈現出來;你得讓臨床推理建立在走向而非位置之上;你得在數百家醫院驗證;你還得說服醫院相信,提早兩年發現疾病,值得它們接受比摘要外掛深得多的系統整合。

這條路更慢,更貴,還得去談一些大多數團隊根本沒有能力談的事。但只有這條路,才真正對準了臨床上的那塊空白。

黑盒子讓事情更糟

大多數臨床AI不只是包裝層,還是黑盒子。模型吞進資料,吐出結論,醫師看不到中間的推理。她無法追問是哪些輸入導出了這個結論,也無法對中間步驟做出自己的判斷,因為根本就沒有看得見的中間步驟。

實際上,臨床人員對待這類輸出,就像對待電子病歷裡成百上千則其他警示一樣:先存三分懷疑,再憑訓練出來的本能把它關掉。不透明的系統,使用率始終在10%到15%之間打轉。系統跳出警示,醫師視而不見。AI一直在運作,對臨床卻毫無作用。

那些讓臨床人員使用率超過80%的系統,都有一個共同點:推理是看得見的。臨床人員能看到評估的依據,也能針對其中某一部分提出異議。做不到這一點,就不會有人真正用起來。在我自己動手做之前,好幾年裡,我一再眼看著採用就這樣落空。

真正的不同長什麼樣子

一位病人,18個月裡在兩家醫療院所就醫,肌酸酐每一季漲0.1。沒有哪一個數值觸發過警示,每次看診,這個數字都「在範圍內」。一套會讀軌跡的系統能抓住它。醫師收到的警示裡,有趨勢,有推算出的走向,也有標記背後的臨床推理。她看過,認同,轉診腎臟科,比病人越過閾值的那一天早了整整一年。

我們打造Chroneme,要抓住的就是這樣的變化。我們正依照一份預先登錄的研究計畫書進行驗證,結果無論好壞,包括它力有未逮之處,都會如實公開。

能在加護病房裡抓住緩慢偏移的那種智慧,同樣能在基層診所裡抓住緩慢偏移。能標記出心率在幾週內持續走高的系統,同樣能標記出A1c在幾年裡持續走高。架構不變,變的只是時間尺度。

一百五十億美元。七十張許可。病人的就醫體驗,原地不動。

要等基礎建設變了,它才會變。要等臨床AI讀的是軌跡而不是快照,要等系統把推理攤開而不是藏起來,要等健康成為一個人能看著它隨時間變化的東西,而不是事後才被發現的東西。

這就是我們在Chroneme做的事。

繼續閱讀醫學的新感官