2024 में health AI की 70 से ज़्यादा कंपनियों को FDA clearance मिली। दुनिया भर में clinical AI पर निवेश 15 अरब डॉलर पार कर गया। हर बड़े health system ने अपनी AI strategy का ऐलान किया।
और अमेरिकी अस्पतालों में बिना किसी पूर्व संकेत के बिगड़ जाने वाले मरीज़ों की संख्या में कोई ख़ास फ़र्क़ नहीं आया। Chronic kidney disease पकड़ने में अब भी बरसों लगते हैं। Outpatient settings में diagnostic errors से अब भी हर साल अनुमानतः 12 मिलियन अमेरिकी वयस्क प्रभावित होते हैं। आपका नया डॉक्टर अब भी आपसे कहता है कि अपनी दवाइयों की सूची ख़ुद याद रखिए।
तरीक़े में ही कहीं गड़बड़ है।
Healthcare की ज़्यादातर AI असल में करती क्या है
ज़्यादातर clinical AI products या तो notes summarize करते हैं, या images classify करते हैं, या कोई नंबर threshold पार करे तो alert fire कर देते हैं। सब काम के। सब wrappers। ये clinical data को उसकी मौजूदा शक्ल में लेते हैं, किसी model से गुज़ारते हैं, और नतीजा सामने रख देते हैं। नीचे का data वही रहता है। System मरीज़ को जिस तरह देखता है, वह भी वही रहता है।
AI की मदद से chest X-ray पढ़ रही radiologist अब भी एक पल की एक ही image पढ़ रही है। हो सकता है AI वह nodule पकड़ ले जो उनसे छूट जाता। यह सचमुच क़ीमती है। मगर AI उन्हें यह नहीं बता सकती कि इस मरीज़ का pulmonary function तीन साल में पाँच tests के दौरान गिरता रहा है, कि आठ महीने पहले दवा बदलने के बाद यह गिरावट तेज़ हो गई, और कि यह trajectory अठारह महीनों में COPD की ओर जाती दिखती है। यह जानकारी मौजूद है, मगर अलग-अलग providers और बरसों में बिखरी हुई। कोई wrapper वहाँ तक नहीं पहुँच सकता, क्योंकि wrapper को सिर्फ़ मौजूदा encounter दिखता है।
लगभग हर clinical AI के विश्लेषण की इकाई एक visit है। एक note, एक image। इंसानी बीमारी में यह इकाई बरस हैं। जब तक ये दोनों मेल नहीं खातीं, healthcare में AI ग़लत सवालों के तेज़ जवाब देती रहेगी।
इंसानी बीमारी को समझने की इकाई बरस हैं।
रफ़्तार का जाल
हर कोई रफ़्तार को ही फ़ायदा बताता है। Discharge note का सार कुछ सेकंड में। डॉक्टर अभी बात ख़त्म कर रहा हो और referral का मसौदा तैयार। Free text से diagnoses पलक झपकते निकाल लेना।
Physician burnout एक सच्चाई है। Documentation का बोझ कमर तोड़ देने वाला है। जो भी चीज़ डॉक्टर का समय मरीज़ को लौटाए, उसकी क़द्र है। लेकिन मौजूदा ढाँचे पर रफ़्तार बढ़ाने से सिर्फ़ efficiency की समस्या हल होती है। जिस डॉक्टर को आज की visit की AI से बनी एकदम सही summary मिल जाए, उन्हें फिर भी यह पता नहीं कि पिछले दो साल में तीन providers के यहाँ उनके मरीज़ का creatinine बढ़ता रहा है। Summary तेज़ हो गई। Clinical तस्वीर जस की तस है।
Healthcare systems वह AI अपनाते हैं जो workflows को तेज़ करे, productivity में बढ़ोतरी report करते हैं, और अपनी AI strategy को कामयाब बताते हैं। उधर बीमारी के शुरू होने और पकड़े जाने के बीच का फ़ासला जस का तस है। System उसी दिशा में पहले से तेज़ दौड़ रहा है। किसी ने यह नहीं पूछा कि दिशा सही भी है या नहीं।
Industry wrappers ही क्यों बनाती है
Wrappers बनाना समझ में आता है। एक pre-trained model लीजिए, clinical text पर fine-tune कीजिए, और कुछ महीनों में product बाज़ार में। Validation सीधी-सादी: note अंदर, summary बाहर। बेचने का अंदाज़ जाना-पहचाना: “हम आपके EHR में plug होकर उसे ज़्यादा समझदार बना देते हैं।” Data architecture पर कोई मुश्किल बातचीत नहीं। Workflow में कोई ख़लल नहीं।
समय के साथ सेहत को पढ़ने वाली चीज़ बनाना बिलकुल अलग काम है। मरीज़ को बरसों और कई providers में फैलाकर देखना पड़ता है; ऐसी clinical reasoning बनानी पड़ती है जो स्थिति पर नहीं, दिशा पर चले; सैकड़ों sites पर validation करनी पड़ती है; और अस्पतालों को यक़ीन दिलाना पड़ता है कि बीमारी को दो साल पहले पकड़ लेना किसी summarization plugin से कहीं गहरे integration को जायज़ ठहराता है।
इसमें समय ज़्यादा लगता है, ख़र्च ज़्यादा आता है, और ऐसी बातचीत करनी पड़ती है जिसके लिए ज़्यादातर teams तैयार नहीं होतीं। मगर असली clinical कमी को यही तरीक़ा छूता है।
Black box हालत और बिगाड़ देता है
ज़्यादातर clinical AI wrapper होने के साथ-साथ black box भी है। Model data लेता है और एक output दे देता है। डॉक्टर को तर्क दिखाई नहीं देता। वे यह नहीं पूछ सकतीं कि किन inputs ने नतीजा तय किया। वे बीच के क़दमों पर अपना विवेक नहीं लगा सकतीं, क्योंकि बीच का कोई क़दम दिखता ही नहीं।
अमल में clinicians इन नतीजों के साथ वही बर्ताव करते हैं जो EHR के सैकड़ों दूसरे alerts के साथ: शक के साथ, और बरसों में सीखी इस आदत के साथ कि उन्हें dismiss कर दो। ऐसे बंद systems पर engagement लगातार 10 से 15 प्रतिशत रहता है। System alert देता है, clinician अनदेखा कर देता है। AI चल तो रही होती है, मगर clinically बेअसर।
जिन systems ने 80 प्रतिशत से ज़्यादा clinician engagement हासिल किया, उन सबमें एक बात साझा है: तर्क दिखाई देता है। Clinician देख सकता है कि assessment किस आधार पर हुआ, और उसके ख़ास हिस्सों से असहमत हो सकता है। इसके बिना adoption होता ही नहीं। ख़ुद बनाना शुरू करने से पहले मैं बरसों तक इसे न होते देखता रहा।
असल में अलग कैसा दिखता है
एक मरीज़ जिसका creatinine 18 महीनों से, दो providers के यहाँ, हर तिमाही 0.1 बढ़ रहा है। किसी एक value पर alarm नहीं बजा। हर visit पर नंबर “range के भीतर” था। Trajectories पढ़ने वाला system इसे पकड़ लेता है। डॉक्टर को ऐसा alert मिलता है जिसमें trend, आगे का अनुमानित रास्ता, और flag के पीछे का clinical तर्क, सब मौजूद है। वे उसे देखती हैं, सहमत होती हैं, और nephrology को refer कर देती हैं, मरीज़ के threshold पार करने से एक साल पहले।
हम Chroneme इसी तरह का बदलाव पकड़ने के लिए बना रहे हैं। इसकी validation एक pre-registered protocol के तहत हो रही है, और जो नतीजे सामने आएँगे हम प्रकाशित करेंगे, उन जगहों समेत जहाँ यह कम पड़ता है।
जो समझ ICU में धीमा drift पकड़ती है, वही primary care के क्लिनिक में धीमा drift पकड़ सकती है। जो system हफ़्तों में ऊपर जाते heart rate पर flag लगाता है, वही बरसों में ऊपर जाते A1c पर flag लगा सकता है। Architecture नहीं बदलता। समय का पैमाना बदलता है।
पंद्रह अरब डॉलर। सत्तर clearances। और मरीज़ का अनुभव वहीं का वहीं।
यह तब बदलेगा जब ढाँचा बदलेगा। जब clinical AI snapshots की जगह trajectories पढ़ेगी। जब systems अपना तर्क छिपाने के बजाय दिखाएँगे। जब सेहत ऐसी चीज़ बनेगी जिसे इंसान समय के साथ बदलते देख सके, न कि ऐसी जो नुक़सान हो जाने के बाद पकड़ में आए।
Chroneme में हम यही बना रहे हैं।