2024’te 70’ten fazla sağlık yapay zekâsı şirketi FDA izni aldı. Klinik yapay zekâya yapılan yatırım dünya genelinde 15 milyar doları aştı. ABD’deki bütün büyük sağlık sistemleri birer yapay zekâ stratejisi açıkladı.
Oysa ABD hastanelerinde hiçbir uyarı olmadan kötüleşen hasta sayısı kayda değer biçimde değişmedi. Kronik böbrek hastalığını yakalamak hâlâ yıllar alıyor. Tanı hataları hâlâ her yıl ayaktan hizmetlerde tahminen 12 milyon yetişkin Amerikalıyı etkiliyor. Yeni doktorunuz hâlâ ilaç listenizi ezbere saymanızı istiyor.
Yaklaşımda bir sorun var.
Sağlıktaki yapay zekânın çoğu aslında ne yapıyor
Klinik yapay zekâ ürünlerinin çoğu notları özetler, görüntüleri sınıflandırır ya da bir değer eşiği aştığında uyarı verir. Hepsi işe yarar. Hepsi birer sarmalayıcıdır (wrapper): Klinik veriyi mevcut haliyle alır, bir modelden geçirir ve bir sonuç sunar. Alttaki veri aynı kalır. Sistemin hastayı temsil etme biçimi de aynı kalır.
Yapay zekâ desteğiyle akciğer grafisi okuyan bir radyolog, hâlâ tek bir andan tek bir görüntüye bakıyordur. Yapay zekâ, onun gözden kaçırabileceği bir nodülü yakalayabilir. Bu gerçekten değerlidir. Ama ona şunları söyleyemez: Bu hastanın solunum fonksiyonu üç yılda beş testte giderek azalmış, bu düşüş sekiz ay önceki bir ilaç değişikliğinden sonra hızlanmış ve gidişat on sekiz ay içinde KOAH’a işaret ediyor. Bu bilgi mevcut. Ama farklı sağlayıcılara ve yıllara dağılmış durumda. Hiçbir sarmalayıcı ona ulaşamaz, çünkü sarmalayıcı yalnızca o anki muayeneyi görür.
Klinik yapay zekânın neredeyse tamamında analiz birimi tek bir muayenedir. Tek bir not. Tek bir görüntü. İnsan hastalığında ise analiz birimi yıllardır. Bu ikisi örtüşmedikçe sağlıktaki yapay zekâ yanlış sorulara daha hızlı cevaplar üretmeye devam edecek.
İnsan hastalığında analiz birimi yıllardır.
Hız tuzağı
Herkesin dile getirdiği fayda hızdır. Bir taburcu notunu saniyeler içinde özetlemek. Hekim görüşmeyi bitirirken sevk yazısını hazırlamak. Serbest metinden tanıları anında çıkarmak.
Hekim tükenmişliği gerçek. Belgeleme yükü ezici. Klinik bakıma zaman kazandıran her şeyin değeri var. Ama mevcut altyapı üzerinde hız, bir verimlilik sorununu çözer. Bugünkü muayenenin kusursuz bir yapay zekâ özetini alan hekim, hastasının kreatininin son iki yılda üç ayrı sağlayıcıda yükseldiğinden hâlâ habersizdir. Özet daha hızlıdır. Klinik tablo aynıdır.
Sağlık sistemleri iş akışlarını hızlandıran yapay zekâyı benimsiyor, verimlilik artışlarını raporluyor ve yapay zekâ stratejilerini başarılı ilan ediyor. Bu arada hastalığın gelişmeye başladığı an ile yakalandığı an arasındaki mesafe hiç kısalmadı. Sistem aynı yöne daha hızlı ilerliyor. Yönün doğru olup olmadığını soran olmadı.
Sektör neden sarmalayıcılar üretiyor
Sarmalayıcılar akılcı bir tercihtir. Önceden eğitilmiş bir modeli alırsınız, klinik metinle ince ayar yaparsınız, birkaç ayda ürünü piyasaya sürersiniz. Doğrulama basittir: not girer, özet çıkar. Satış tanıdıktır: “Elektronik sağlık kaydı sisteminize bağlanıp onu daha akıllı hale getiriyoruz.” Veri mimarisi üzerine zor konuşmalar yok. İş akışında sarsıntı yok.
Sağlığı zaman içinde okuyan bir şey inşa etmek ise bambaşka bir iştir. Hastayı yıllar ve sağlayıcılar boyunca temsil etmeniz, konuma değil yöne dayanan bir klinik akıl yürütme kurmanız, yüzlerce merkezde doğrulama yapmanız ve hastaneleri bir hastalığı iki yıl erken yakalamanın bir özetleme eklentisinden çok daha derin bir entegrasyona değdiğine ikna etmeniz gerekir.
Bu daha uzun sürer, daha pahalıya mal olur ve çoğu ekibin yürütmeye hazır olmadığı konuşmalar gerektirir. Ama gerçek klinik boşluğa eğilen tek yaklaşım da budur.
Kara kutu işleri daha da kötüleştiriyor
Klinik yapay zekânın çoğu, sarmalayıcı olmanın üstüne bir de kara kutu olarak çalışır. Model veriyi alır ve bir çıktı üretir. Hekim akıl yürütmeyi göremez. Sonuca hangi girdilerin yol açtığını sorgulayamaz. Ara adımlara kendi muhakemesini uygulayamaz, çünkü görünür bir ara adım yoktur.
Pratikte klinisyenler bu çıktılara, elektronik sağlık kaydının yüzlerce başka uyarısına davrandıkları gibi davranır: kuşkuyla ve geçiştirmeye alışmış bir refleksle. Şeffaf olmayan sistemlerin kullanım oranı sürekli olarak yüzde 10 ila 15’te kalır. Sistem uyarı verir. Klinisyen görmezden gelir. Yapay zekâ çalışıyordur ama klinik açıdan hiçbir etkisi yoktur.
Klinisyenler arasında yüzde 80’in üzerinde kullanım oranına ulaşan sistemlerin ortak bir özelliği var: Akıl yürütme görünürdür. Klinisyen değerlendirmenin neye dayandığını görür ve belirli kısımlarına itiraz edebilir. Bu olmadan sistem benimsenmez. Kendi sistemimi kurmaya başlamadan önce, bu benimsemenin yıllarca gerçekleşmediğine tanık oldum.
Gerçekten farklı olan nasıl görünür
Kreatinini 18 ay boyunca iki ayrı sağlayıcıda her çeyrekte 0,1 artmış bir hasta düşünün. Hiçbir tekil değer alarm vermedi. Her muayenede değer “referans aralığında” idi. Seyri okuyan bir sistem bunu yakalar. Hekim; eğilimi, öngörülen gidişatı ve işaretlemenin ardındaki klinik gerekçeyi gösteren bir uyarı alır. Uyarıyı inceler, katılır ve hastayı, eşiği aşmasından bir yıl önce nefrolojiye sevk eder.
Chroneme’i tam da bu tür değişimleri yakalamak için geliştiriyoruz. Önceden kayda geçirilmiş bir protokolle doğrulamasını yapıyoruz ve bulduklarımızı, yetersiz kaldığı noktalar da dahil olmak üzere yayımlayacağız.
Yoğun bakımdaki yavaş kaymayı yakalayan zekâ, birinci basamaktaki yavaş kaymayı da yakalayabilir. Haftalar içinde yükselen bir kalp hızını işaretleyen sistem, yıllar içinde yükselen bir A1c’yi de işaretleyebilir. Mimari değişmez. Değişen, zaman ölçeğidir.
On beş milyar dolar. Yetmiş izin. Ve hasta deneyimi yerinden kıpırdamadı.
Altyapı değiştiğinde o da değişecek. Klinik yapay zekâ anlık görüntüleri değil seyri okuduğunda. Sistemler akıl yürütmelerini saklamak yerine gösterdiğinde. Sağlık, iş işten geçtikten sonra yakalanan bir şey olmaktan çıkıp insanın zaman içindeki değişimini kendi gözüyle izleyebildiği bir şeye dönüştüğünde.
Chroneme’de inşa ettiğimiz şey bu.