←Chronik

Das Wrapper-Problem der KI im Gesundheitswesen

Die meisten KI-Lösungen im Gesundheitswesen machen denselben Fehler, nur schneller

Chroneme / Chronik

Im Jahr 2024 erhielten mehr als 70 Unternehmen für Gesundheits-KI eine Zulassung der FDA. Die weltweiten Investitionen in klinische KI überstiegen 15 Milliarden Dollar. Jeder große amerikanische Klinikverbund verkündete eine KI-Strategie.

Und doch hat sich die Zahl der Patienten, deren Zustand sich in US-Krankenhäusern ohne Vorwarnung verschlechtert, kaum verändert. Bis eine chronische Nierenerkrankung erkannt wird, vergehen noch immer Jahre. Diagnosefehler betreffen in der ambulanten Versorgung nach Schätzungen weiterhin 12 Millionen erwachsene Amerikaner pro Jahr. Und Ihr neuer Arzt bittet Sie noch immer, Ihre Medikamente aus dem Gedächtnis aufzuzählen.

Mit dem Ansatz stimmt etwas nicht.

Was die meisten KI-Lösungen im Gesundheitswesen tatsächlich tun

Die meisten klinischen KI-Produkte fassen Arztbriefe zusammen, klassifizieren Bilder oder lösen einen Alarm aus, sobald ein Wert eine Schwelle überschreitet. Alles nützlich. Alles Wrapper. Sie nehmen klinische Daten in ihrer vorhandenen Form, schicken sie durch ein Modell und zeigen ein Ergebnis an. An den Daten selbst hat sich nichts geändert. An der Art, wie das System einen Patienten abbildet, ebenso wenig.

Eine Radiologin, die mit KI-Unterstützung ein Röntgenbild des Thorax befundet, liest noch immer ein einziges Bild aus einem einzigen Moment. Die KI findet vielleicht einen Rundherd, den sie übersehen hätte. Das ist ein echter Gewinn. Aber sie kann ihr nicht sagen, dass die Lungenfunktion dieses Patienten über fünf Messungen in drei Jahren abgenommen hat, dass sich der Abfall nach einer Umstellung der Medikation vor acht Monaten beschleunigt hat und dass der Verlauf binnen achtzehn Monaten auf eine COPD zuläuft. Diese Information existiert. Sie ist über verschiedene Behandler und Jahre verstreut. Kein Wrapper kommt an sie heran, denn ein Wrapper sieht nur den aktuellen Arztkontakt.

In fast jeder klinischen KI ist die Analyseeinheit ein einzelner Termin. Ein Befund. Ein Bild. Bei menschlichen Krankheiten sind es Jahre. Solange das nicht zusammenpasst, wird KI in der Medizin weiter schnellere Antworten auf die falschen Fragen liefern.

Bei menschlichen Krankheiten misst man in Jahren.

Die Geschwindigkeitsfalle

Geschwindigkeit ist der Vorteil, den alle anführen. Einen Entlassbrief in Sekunden zusammenfassen. Eine Überweisung entwerfen, während die Ärztin das Gespräch noch beendet. Diagnosen sofort aus Freitext herausziehen.

Burnout unter Ärzten ist real, die Dokumentationslast erdrückend. Alles, was Zeit für die Behandlung zurückgibt, hat Wert. Doch mehr Tempo auf der bestehenden Infrastruktur löst ein Effizienzproblem. Die Ärztin, die eine perfekte KI-Zusammenfassung des heutigen Termins bekommt, weiß trotzdem nicht, dass das Kreatinin ihrer Patientin seit zwei Jahren steigt, gemessen bei drei verschiedenen Behandlern. Die Zusammenfassung ist schneller. Das klinische Bild bleibt dasselbe.

Gesundheitssysteme führen KI ein, die Abläufe beschleunigt, melden Produktivitätsgewinne und erklären ihre KI-Strategie zum Erfolg. Die Lücke zwischen dem Beginn einer Krankheit und ihrer Entdeckung hat sich derweil nicht verkleinert. Das System bewegt sich schneller, aber in dieselbe Richtung. Niemand hat gefragt, ob die Richtung stimmt.

Warum die Branche Wrapper baut

Wrapper sind eine rationale Wahl. Man nimmt ein vortrainiertes Modell, passt es mit klinischen Texten an und hat in wenigen Monaten ein Produkt. Die Validierung ist einfach: Befund rein, Zusammenfassung raus. Das Verkaufsgespräch ist vertraut: „Wir docken an Ihre elektronische Krankenakte an und machen sie klüger.“ Keine unbequemen Gespräche über Datenarchitektur. Keine Störung der Arbeitsabläufe.

Etwas zu bauen, das Gesundheit über die Zeit liest, ist ein völlig anderes Vorhaben. Man muss den Patienten über Jahre und Behandler hinweg abbilden, ein klinisches Denken aufbauen, das sich an der Richtung orientiert statt an der Position, an Hunderten von Standorten validieren und Krankenhäuser davon überzeugen, dass eine zwei Jahre frühere Diagnose eine tiefere Integration rechtfertigt als ein Plug-in zum Zusammenfassen.

Das dauert länger, kostet mehr und verlangt Gespräche, für die die meisten Teams nicht gerüstet sind. Es ist aber auch der einzige Ansatz, der die eigentliche klinische Lücke angeht.

Die Blackbox macht es schlimmer

Klinische KI ist meist nicht nur ein Wrapper, sondern obendrein eine Blackbox. Ein Modell nimmt Daten auf und gibt ein Ergebnis aus. Die Ärztin sieht die Begründung nicht. Sie kann nicht hinterfragen, welche Eingaben den Ausschlag gaben. Sie kann ihr Urteil nicht auf die Zwischenschritte anwenden, weil es keine sichtbaren Zwischenschritte gibt.

In der Praxis behandeln Kliniker solche Ausgaben wie die Hunderte anderer Warnmeldungen der elektronischen Akte: mit Misstrauen und dem antrainierten Reflex, sie wegzuklicken. Undurchsichtige Systeme erreichen durchweg nur 10 bis 15 Prozent Nutzung. Das System schlägt an. Der Kliniker ignoriert es. Die KI läuft, ist klinisch aber wirkungslos.

Die Systeme, die mehr als 80 Prozent Nutzung durch Kliniker erreicht haben, teilen eine Eigenschaft: Ihre Begründung ist sichtbar. Der Kliniker sieht, worauf die Einschätzung beruht, und kann einzelnen Teilen widersprechen. Ohne das setzt sich ein System nicht durch. Ich habe jahrelang zugesehen, wie es scheiterte, bevor ich selbst zu bauen begann.

Wie es anders aussieht

Eine Patientin, deren Kreatinin seit 18 Monaten um 0,1 pro Quartal steigt, betreut von zwei verschiedenen Behandlern. Kein einzelner Wert hat einen Alarm ausgelöst. Bei jedem Termin lag die Zahl „im Normbereich“. Ein System, das Verläufe liest, erkennt es. Die Ärztin erhält einen Hinweis, der den Trend, den projizierten Verlauf und die klinische Begründung zeigt. Sie prüft ihn, stimmt zu und überweist zur Nephrologie, ein Jahr bevor die Patientin die Schwelle überschritten hätte.

Genau solche Veränderungen soll Chroneme erkennen. Wir validieren das System nach einem präregistrierten Protokoll und werden veröffentlichen, was wir finden, auch dort, wo es hinter den Erwartungen zurückbleibt.

Dieselbe Intelligenz, die eine langsame Verschlechterung auf der Intensivstation erkennt, erkennt sie auch in der Hausarztpraxis. Dasselbe System, das eine über Wochen steigende Herzfrequenz meldet, kann einen über Jahre steigenden HbA1c melden. Die Architektur bleibt gleich. Nur der Zeitmaßstab ändert sich.

Fünfzehn Milliarden Dollar. Siebzig Zulassungen. Und für die Patienten hat sich nichts geändert.

Das wird sich ändern, wenn sich die Infrastruktur ändert. Wenn klinische KI Verläufe liest statt Momentaufnahmen. Wenn Systeme ihre Begründung zeigen, statt sie zu verbergen. Wenn Gesundheit etwas wird, dessen Wandel ein Mensch über die Zeit verfolgen kann, und nicht etwas, das erst hinterher entdeckt wird.

Daran arbeiten wir bei Chroneme.