Sepanjang 2024, lebih dari 70 perusahaan AI kesehatan mendapat izin FDA. Investasi global di AI klinis menembus $15 miliar. Setiap jaringan layanan kesehatan besar mengumumkan strategi AI-nya.
Namun jumlah pasien yang memburuk tanpa peringatan di rumah sakit Amerika Serikat praktis tidak berubah. Penyakit ginjal kronis masih butuh bertahun-tahun untuk terdeteksi. Kesalahan diagnosis di layanan rawat jalan masih menimpa sekitar 12 juta orang dewasa Amerika setiap tahun. Dokter baru Anda masih meminta Anda mengingat sendiri daftar obat yang Anda minum.
Ada yang keliru dengan pendekatannya.
Apa yang sebenarnya dikerjakan kebanyakan AI kesehatan
Kebanyakan produk AI klinis meringkas catatan, mengklasifikasi gambar, atau membunyikan peringatan ketika sebuah angka melewati ambang batas. Semuanya berguna. Semuanya sekadar pembungkus, atau wrapper. Data klinis diambil apa adanya, dilewatkan ke sebuah model, lalu hasilnya ditampilkan. Datanya sendiri tidak berubah. Cara sistem merepresentasikan seorang pasien pun tidak berubah.
Seorang radiolog yang membaca foto toraks dengan bantuan AI tetap hanya membaca satu gambar dari satu momen. AI mungkin menemukan nodul yang luput dari matanya, dan itu sungguh bernilai. Tetapi AI itu tidak bisa memberi tahu bahwa fungsi paru pasien ini terus menurun dalam lima kali pemeriksaan selama tiga tahun, bahwa penurunannya makin cepat setelah obatnya diganti delapan bulan lalu, dan bahwa proyeksinya mengarah ke PPOK dalam delapan belas bulan. Informasi itu ada, tetapi tersebar di berbagai fasilitas dan rentang tahun. Tak satu wrapper pun bisa menjangkaunya, karena wrapper hanya melihat kunjungan saat ini.
Satuan analisis hampir semua AI klinis adalah satu kunjungan. Satu catatan. Satu gambar. Pada penyakit manusia, satuannya tahun. Selama keduanya tidak selaras, AI kesehatan akan terus menghasilkan jawaban yang makin cepat atas pertanyaan yang salah.
Pada penyakit manusia, satuan analisisnya adalah tahun.
Jebakan kecepatan
Kecepatan adalah manfaat yang paling sering disebut. Catatan pulang rawat terangkum dalam hitungan detik. Surat rujukan sudah jadi selagi dokter menuntaskan percakapannya dengan pasien. Diagnosis langsung tersaring dari teks bebas.
Burnout pada dokter itu nyata, dan beban dokumentasi memang menghimpit. Apa pun yang mengembalikan waktu untuk merawat pasien layak dihargai. Tetapi kecepatan di atas infrastruktur yang ada menyelesaikan masalah efisiensi. Dokter yang mendapat ringkasan AI sempurna tentang kunjungan hari ini tetap tidak tahu bahwa kreatinin pasiennya terus naik selama dua tahun terakhir, tercatat di tiga fasilitas berbeda. Ringkasannya lebih cepat. Gambaran klinisnya sama persis.
Jaringan layanan kesehatan mengadopsi AI yang mempercepat alur kerja, melaporkan kenaikan produktivitas, lalu menyebut strategi AI-nya berhasil. Sementara itu, jarak antara saat penyakit mulai berkembang dan saat penyakit itu tertangkap tidak bergeser. Sistemnya bergerak lebih cepat, ke arah yang sama. Tidak ada yang bertanya apakah arahnya benar.
Mengapa industri membangun wrapper
Membangun wrapper itu masuk akal. Ambil model pra-latih, lakukan fine-tuning dengan teks klinis, dan produk bisa dirilis dalam hitungan bulan. Validasinya sederhana: catatan masuk, ringkasan keluar. Cara menjualnya pun sudah lazim: “Kami tersambung ke EHR Anda dan membuatnya lebih pintar.” Tidak perlu percakapan sulit soal arsitektur data. Alur kerja tidak terganggu.
Membangun sesuatu yang membaca kesehatan dari waktu ke waktu adalah pekerjaan yang sama sekali lain. Pasien harus direpresentasikan lintas tahun dan lintas fasilitas. Penalaran klinisnya harus bertumpu pada arah perubahan, bukan pada posisi angka. Validasinya harus mencakup ratusan lokasi. Dan rumah sakit harus diyakinkan bahwa menemukan penyakit dua tahun lebih awal sepadan dengan integrasi yang jauh lebih dalam daripada sekadar plugin peringkas.
Jalan ini lebih lama, lebih mahal, dan menuntut percakapan yang tidak sanggup dijalani kebanyakan tim. Namun hanya jalan inilah yang benar-benar menyentuh celah klinis yang ada.
Kotak hitam memperparahnya
Selain sekadar wrapper, kebanyakan AI klinis juga bekerja sebagai kotak hitam. Model menyerap data dan mengeluarkan hasil. Dokter tidak bisa melihat penalarannya. Ia tidak bisa mempertanyakan masukan mana yang menentukan kesimpulan. Ia tidak bisa menerapkan penilaiannya pada langkah-langkah antara, karena memang tidak ada langkah antara yang terlihat.
Dalam praktik, klinisi memperlakukan hasil semacam itu seperti ratusan peringatan EHR lainnya: dengan curiga, dan dengan naluri terlatih untuk mengabaikannya. Sistem yang tertutup secara konsisten hanya mencapai keterlibatan 10 sampai 15 persen. Sistem memberi peringatan, klinisi mengabaikannya. AI-nya tetap berjalan, tetapi secara klinis tak berdampak apa-apa.
Sistem yang berhasil mencapai keterlibatan klinisi di atas 80 persen punya satu kesamaan: penalarannya terlihat. Klinisi bisa melihat apa yang mendasari penilaian sistem dan bisa tidak setuju pada bagian tertentu. Tanpa itu, adopsi tidak akan terjadi. Bertahun-tahun saya menyaksikan adopsi itu tak kunjung terjadi, sebelum saya mulai membangun sendiri.
Seperti apa pendekatan yang berbeda
Bayangkan seorang pasien yang kreatininnya naik 0,1 setiap kuartal selama 18 bulan, tercatat di dua fasilitas. Tidak satu pun nilainya memicu alarm. Di setiap kunjungan, angkanya “masih dalam batas normal”. Sistem yang membaca trajektori akan menangkapnya. Dokter menerima peringatan yang memperlihatkan trennya, proyeksi arahnya, dan penalaran klinis di balik peringatan itu. Ia meninjaunya, setuju, lalu merujuk ke nefrologi setahun sebelum angka pasien itu sempat melewati ambang batas.
Chroneme kami bangun untuk menangkap perubahan semacam itu. Kami sedang memvalidasinya dengan protokol yang didaftarkan sebelumnya, dan akan menerbitkan temuannya, termasuk di titik mana ia masih kurang.
Kecerdasan yang menangkap pergeseran perlahan di ICU juga bisa menangkap pergeseran perlahan di praktik layanan primer. Sistem yang menandai denyut jantung yang merayap naik selama berminggu-minggu juga bisa menandai A1c yang merayap naik selama bertahun-tahun. Arsitekturnya tetap. Yang berubah hanya skala waktunya.
Lima belas miliar dolar. Tujuh puluh izin edar. Dan pengalaman pasien tidak berubah.
Pengalaman itu baru akan berubah ketika infrastrukturnya berubah. Ketika AI klinis membaca trajektori, bukan potret sesaat. Ketika sistem memperlihatkan penalarannya, bukan menyembunyikannya. Ketika kesehatan menjadi sesuatu yang perubahannya bisa dilihat seseorang dari waktu ke waktu, bukan sesuatu yang baru ketahuan setelah semuanya terjadi.
Itulah yang kami bangun di Chroneme.