I 2024 fik over 70 virksomheder inden for sundheds-AI godkendelse fra FDA. Investeringerne i klinisk AI passerede 15 milliarder dollars på verdensplan. Alle større amerikanske hospitalssystemer præsenterede en AI-strategi.
Og antallet af patienter, der forværres uden varsel på amerikanske hospitaler, har ikke ændret sig nævneværdigt. Kronisk nyresygdom tager stadig år at opdage. Diagnostiske fejl rammer stadig anslået 12 millioner voksne amerikanere om året i ambulant regi. Din nye læge beder dig stadig om at huske din egen medicinliste.
Der er noget galt med tilgangen.
Hvad det meste sundheds-AI faktisk gør
De fleste kliniske AI-produkter laver resuméer af notater, klassificerer billeder eller udløser en alarm, når et tal krydser en grænseværdi. Alt sammen nyttigt. Alt sammen wrappere: De tager kliniske data, som de allerede foreligger, kører dem gennem en model og præsenterer et resultat. De underliggende data er de samme. Måden, systemet repræsenterer patienten på, er den samme.
En radiolog, der beskriver et thoraxrøntgen med hjælp fra AI, ser stadig ét billede fra ét øjeblik. AI kan måske fange en nodulus, hun ellers ville have overset, og det er reelt værdifuldt. Men den kan ikke fortælle hende, at patientens lungefunktion er faldet over fem målinger på tre år, at faldet tog fart efter et medicinskift for otte måneder siden, og at kurven peger mod KOL inden for halvandet år. Den viden findes. Den ligger spredt ud over behandlere og år. Ingen wrapper kan nå den, for en wrapper ser kun den aktuelle konsultation.
I næsten alt klinisk AI er analyseenheden ét besøg. Ét notat. Ét billede. Ved sygdom hos mennesker er den år. Så længe de to ikke stemmer overens, vil AI i sundhedsvæsenet blive ved med at levere hurtigere svar på de forkerte spørgsmål.
Ved sygdom hos mennesker er analyseenheden år.
Fartfælden
Fart er den gevinst, alle fremhæver. Et udskrivningsnotat opsummeret på få sekunder. En henvisning skrevet, mens lægen afslutter samtalen. Diagnoser trukket ud af fritekst på et øjeblik.
Udbrændthed blandt læger er en realitet, og dokumentationsbyrden er knusende. Alt, der giver tid tilbage til patientarbejdet, har værdi. Men fart på den eksisterende infrastruktur løser et effektivitetsproblem. Lægen, der får et perfekt AI-resumé af dagens konsultation, ved stadig ikke, at patientens kreatinin er steget hos tre forskellige behandlere i løbet af de sidste to år. Resuméet kommer hurtigere. Det kliniske billede er uændret.
Sundhedssystemer indfører AI, der gør arbejdsgangene hurtigere, melder om produktivitetsgevinster og erklærer deres AI-strategi for en succes. Imens har afstanden mellem det tidspunkt, hvor en sygdom begynder at udvikle sig, og det tidspunkt, hvor den bliver opdaget, ikke flyttet sig. Systemet bevæger sig hurtigere i samme retning. Ingen har spurgt, om retningen er den rigtige.
Hvorfor branchen bygger wrappere
Wrappere er et rationelt valg. Tag en fortrænet model, finjustér den på klinisk tekst, og læg et produkt på markedet i løbet af få måneder. Valideringen er enkel: notat ind, resumé ud. Salgstalen er velkendt: »Vi kobler os på jeres journalsystem og gør det klogere.« Ingen svære samtaler om dataarkitektur. Ingen forstyrrelse af arbejdsgangene.
At bygge noget, der aflæser helbred over tid, er en helt anden opgave. Man skal repræsentere patienten på tværs af år og behandlere, opbygge et klinisk ræsonnement, der arbejder med retning frem for position, validere på hundredvis af hospitaler og overbevise dem om, at det at opdage en sygdom to år tidligere er en dybere integration værd end et resumé-plugin.
Det tager længere tid, koster mere og kræver samtaler, de fleste teams ikke er rustet til. Det er også den eneste tilgang, der tager fat om det egentlige kliniske hul.
Den sorte boks gør det værre
Ud over at være en wrapper fungerer det meste kliniske AI som en sort boks. En model tager data ind og spytter et svar ud. Lægen kan ikke se ræsonnementet. Hun kan ikke stille spørgsmålstegn ved, hvilke oplysninger der bar konklusionen. Hun kan ikke bruge sin dømmekraft på mellemregningerne, for der er ingen synlige mellemregninger.
I praksis behandler klinikere den slags output, som de behandler de hundredvis af andre alarmer i journalsystemet: med mistro og en indøvet refleks til at klikke dem væk. Uigennemsigtige systemer opnår gang på gang en brugsgrad på 10 til 15 procent. Systemet slår alarm. Klinikeren ignorerer den. AI kører, men gør ingen klinisk forskel.
De systemer, der har nået en brugsgrad blandt klinikere på over 80 procent, har én ting til fælles: Ræsonnementet er synligt. Klinikeren kan se, hvad der lå til grund for vurderingen, og kan være uenig i konkrete dele af den. Uden det bliver systemet ikke taget i brug. Jeg så det udeblive i årevis, før jeg selv begyndte at bygge.
Hvordan et andet system faktisk ser ud
Tag en patient, hvis kreatinin er steget 0,1 i kvartalet hos to forskellige behandlere over 18 måneder. Ingen enkeltværdi udløste en alarm. Ved hvert besøg lå tallet »inden for normalområdet«. Et system, der aflæser forløb, fanger det. Lægen får en advarsel, der viser tendensen, den forventede kurve og det kliniske ræsonnement bag. Hun gennemgår den, er enig og henviser til nefrolog et år før, patienten ville have krydset grænseværdien.
Det er den slags forandring, vi bygger Chroneme til at fange. Vi validerer systemet efter en på forhånd registreret protokol og vil offentliggøre resultaterne, også dér hvor det kommer til kort.
Den samme intelligens, der fanger den langsomme glidning på et intensivafsnit, kan fange den i almen praksis. Det samme system, der opfanger en puls, som stiger over uger, kan opfange en HbA1c, der stiger over år. Arkitekturen er den samme. Det er tidsskalaen, der skifter.
Femten milliarder dollars. Halvfjerds godkendelser. Og for patienten er intet ændret.
Det ændrer sig, når infrastrukturen ændrer sig. Når klinisk AI aflæser forløb i stedet for øjebliksbilleder. Når systemerne viser deres ræsonnement i stedet for at skjule det. Når helbred bliver noget, et menneske kan se forandre sig over tid, ikke noget, der først bliver opdaget, når skaden er sket.
Det er det, vi bygger hos Chroneme.