W 2024 roku dopuszczenie FDA uzyskało ponad 70 firm rozwijających AI dla medycyny. Inwestycje w kliniczną AI przekroczyły na świecie 15 mld dolarów. Każda duża sieć szpitali ogłosiła własną strategię AI.
A liczba pacjentów, których stan w amerykańskich szpitalach pogarsza się bez ostrzeżenia, w istotny sposób się nie zmieniła. Przewlekła choroba nerek wciąż latami czeka na rozpoznanie. Błędy diagnostyczne w opiece ambulatoryjnej wciąż dotykają szacunkowo 12 milionów dorosłych Amerykanów rocznie. Nowy lekarz wciąż prosi pacjenta, żeby z pamięci wyliczył przyjmowane leki.
Coś jest nie tak z samym podejściem.
Co naprawdę robi większość AI w medycynie
Większość produktów klinicznej AI streszcza notatki, klasyfikuje obrazy albo uruchamia alert, gdy wynik przekroczy próg. Wszystko to się przydaje. I wszystko to są nakładki. Biorą dane kliniczne w takiej postaci, w jakiej już istnieją, przepuszczają je przez model i podają wynik. Same dane się nie zmieniają. Nie zmienia się też sposób, w jaki system widzi pacjenta.
Radiolożka, która opisuje RTG klatki piersiowej z pomocą AI, wciąż ogląda jedno zdjęcie z jednej chwili. AI może wypatrzyć guzek, który by jej umknął. To naprawdę cenne. Ale nie powie jej, że w pięciu kolejnych badaniach z trzech lat czynność płuc tego pacjenta się pogarszała, że spadek przyspieszył po zmianie leczenia osiem miesięcy temu i że trajektoria prowadzi do POChP w ciągu półtora roku. Te informacje istnieją. Są rozrzucone po latach i po różnych placówkach. Żadna nakładka do nich nie sięgnie, bo widzi tylko bieżącą wizytę.
Jednostką analizy w niemal całej klinicznej AI jest jedna wizyta. Jedna notatka. Jedno zdjęcie. W chorobach człowieka są nią lata. Dopóki te skale się nie spotkają, AI w medycynie będzie coraz szybciej odpowiadać na niewłaściwe pytania.
Jednostką analizy w chorobach człowieka są lata.
Pułapka szybkości
Szybkość to zaleta, którą wymieniają wszyscy. Streszczenie wypisu w kilka sekund. Szkic skierowania gotowy, zanim lekarz skończy rozmowę. Rozpoznania wyłuskane z wolnego tekstu w okamgnieniu.
Wypalenie lekarzy jest faktem. Dokumentacja przygniata. Wszystko, co oddaje czas pacjentom, ma wartość. Ale przyspieszenie pracy na starej infrastrukturze rozwiązuje problem wydajności. Lekarka, która dostaje od AI doskonałe streszczenie dzisiejszej wizyty, nadal nie wie, że od dwóch lat kreatynina jej pacjenta rośnie w wynikach z trzech różnych placówek. Streszczenie powstaje szybciej. Obraz kliniczny pozostaje ten sam.
Szpitale wdrażają AI, która przyspiesza pracę, raportują wzrost wydajności i ogłaszają, że strategia AI się powiodła. A czas między początkiem choroby a jej wykryciem ani drgnął. System pędzi szybciej, ale w tym samym kierunku. Nikt nie zapytał, czy to dobry kierunek.
Dlaczego branża buduje nakładki
Bo to racjonalne. Bierze się gotowy model, dostraja go na tekstach klinicznych i w kilka miesięcy ma się produkt. Walidacja jest prosta: na wejściu notatka, na wyjściu streszczenie. Sprzedaż też idzie utartym torem: „Podłączymy się do waszego EHR i sprawimy, że będzie mądrzejszy”. Żadnych trudnych rozmów o architekturze danych. Żadnego wywracania organizacji pracy.
Zbudowanie czegoś, co odczytuje zdrowie w czasie, to zupełnie inne zadanie. Trzeba przedstawić pacjenta na przestrzeni lat i wielu placówek, zbudować rozumowanie kliniczne, które patrzy na kierunek, a nie na położenie, przeprowadzić walidację w setkach ośrodków i przekonać szpitale, że wykrycie choroby dwa lata wcześniej jest warte głębszej integracji niż wtyczka do streszczeń.
Trwa to dłużej, kosztuje więcej i wymaga rozmów, do których większość zespołów nie jest przygotowana. Ale tylko takie podejście odpowiada na rzeczywistą lukę kliniczną.
Czarna skrzynka tylko pogarsza sprawę
Większość klinicznej AI jest nie tylko nakładką, lecz także czarną skrzynką. Model przyjmuje dane i wydaje werdykt. Lekarka nie widzi toku rozumowania. Nie może sprawdzić, które dane przesądziły o wniosku. Nie może przyłożyć własnego osądu do kolejnych kroków, bo żadnych widocznych kroków nie ma.
W praktyce klinicyści traktują takie wyniki jak setki innych alertów z EHR: podejrzliwie i z wyćwiczonym odruchem, by je zamknąć. Nieprzejrzyste systemy niezmiennie osiągają 10 do 15 procent zaangażowania. System zgłasza alarm. Klinicysta go pomija. AI pracuje, ale klinicznie nic nie zmienia.
Systemy, które przekroczyły 80 procent zaangażowania klinicystów, łączy jedno: widać, jak rozumują. Klinicysta wie, co zdecydowało o ocenie, i może się nie zgodzić z konkretnym jej elementem. Bez tego żadne wdrożenie się nie przyjmuje. Zanim sam zacząłem budować, przez lata patrzyłem, jak się nie przyjmuje.
Jak naprawdę wygląda inne podejście
Pacjent, którego kreatynina od 18 miesięcy rośnie o 0,1 na kwartał, w wynikach od dwóch różnych lekarzy. Żadna pojedyncza wartość nie uruchomiła alarmu. Na każdej wizycie wynik był „w normie”. System, który czyta trajektorie, to wychwytuje. Lekarka dostaje alert z trendem, prognozowanym przebiegiem i rozumowaniem klinicznym, które za nim stoi. Przegląda go, zgadza się i kieruje pacjenta do nefrologa na rok przed tym, nim wynik przekroczyłby próg.
Po to właśnie budujemy Chroneme: żeby wychwytywać takie zmiany. Walidujemy system według wcześniej zarejestrowanego protokołu i opublikujemy wyniki, także te, które pokażą, gdzie zawodzi.
Ta sama inteligencja, która dostrzega powolne zmiany na OIOM-ie, może je dostrzec w gabinecie lekarza rodzinnego. Ten sam system, który zauważa tętno rosnące przez kilka tygodni, zauważy A1c rosnące przez lata. Architektura się nie zmienia. Zmienia się skala czasu.
Piętnaście miliardów dolarów. Siedemdziesiąt dopuszczeń. A pacjent nie odczuł żadnej różnicy.
Odczuje, kiedy zmieni się infrastruktura. Kiedy kliniczna AI zacznie czytać trajektorie zamiast stopklatek. Kiedy systemy zaczną pokazywać swoje rozumowanie, zamiast je ukrywać. Kiedy zdrowie stanie się czymś, czego zmiany każdy może śledzić w czasie, a nie czymś, co wychodzi na jaw po fakcie.
To właśnie budujemy w Chroneme.