В 2024 году более 70 компаний, работающих в области медицинского ИИ, получили одобрение FDA. Инвестиции в клинический ИИ по всему миру превысили $15 млрд. Все крупные системы здравоохранения объявили о своих ИИ-стратегиях.
А число пациентов, чьё состояние в американских больницах ухудшается без всякого предупреждения, заметно не изменилось. Хроническую болезнь почек по-прежнему выявляют спустя годы. Диагностические ошибки в амбулаторной помощи по-прежнему затрагивают, по оценкам, 12 миллионов взрослых американцев в год. Новый врач по-прежнему просит вас вспомнить, какие лекарства вы принимаете.
С самим подходом что-то не так.
Чем на самом деле занят медицинский ИИ
Большинство клинических ИИ-продуктов составляют сводки по записям, классифицируют снимки или подают сигнал, когда показатель переходит порог. Всё это полезно. И всё это обёртки. Они берут клинические данные в том виде, в каком те уже существуют, пропускают через модель и выдают результат. Сами данные остаются прежними. Прежним остаётся и то, как система представляет себе пациента.
Рентгенолог, которая описывает рентгенограмму грудной клетки с помощью ИИ, всё так же смотрит на один снимок, сделанный в один момент. ИИ может найти узел, который она пропустила бы. Это действительно ценно. Но он не скажет ей, что функция внешнего дыхания у этого пациента снижалась в пяти исследованиях подряд за три года, что после смены препарата восемь месяцев назад снижение ускорилось и что при такой траектории через полтора года можно ждать ХОБЛ. Эти сведения существуют. Они рассеяны по разным врачам и разным годам. Никакая обёртка до них не дотянется: она видит только текущий визит.
Почти для любого клинического ИИ единицей анализа служит один визит. Одна запись. Один снимок. Болезнь человека измеряется годами. Пока эти масштабы не совпадут, ИИ в медицине будет всё быстрее отвечать на неверные вопросы.
Болезнь человека измеряется годами.
Ловушка скорости
Все говорят прежде всего о скорости. Краткое изложение выписного эпикриза за секунды. Направление к специалисту готово, пока врач заканчивает разговор. Диагнозы, мгновенно извлечённые из свободного текста.
Выгорание врачей — не выдумка. Груз документации непосилен. Всё, что возвращает время клинической работе, ценно. Но скорость на старой инфраструктуре решает задачу эффективности, и только. Врач, получившая безупречную ИИ-сводку сегодняшнего приёма, всё равно не знает, что за два года креатинин её пациента вырос в анализах у трёх разных врачей. Сводка быстрее. Клиническая картина та же.
Больницы внедряют ИИ, ускоряющий рабочие процессы, отчитываются о росте производительности и объявляют свою ИИ-стратегию успешной. Тем временем разрыв между началом болезни и её выявлением не сократился. Система движется быстрее, но в том же направлении. Верное ли оно, никто не спросил.
Почему индустрия делает обёртки
Делать обёртки разумно. Берёте предобученную модель, дообучаете её на клинических текстах и за несколько месяцев выпускаете продукт. Валидация простая: на входе запись, на выходе сводка. Продавать привычно: «Мы подключаемся к вашей электронной карте и делаем её умнее». Никаких трудных разговоров об архитектуре данных. Никакой ломки рабочих процессов.
Создать систему, которая читает здоровье во времени, — совсем другая задача. Нужно представить пациента через годы и через разных врачей, построить клиническое рассуждение, которое работает с направлением, а не с положением, провести валидацию в сотнях учреждений и убедить больницы, что выявление болезни на два года раньше оправдывает интеграцию куда глубже, чем подключение модуля для сводок.
Это дольше, дороже и требует разговоров, к которым большинство команд не готово. Но только такой подход имеет дело с настоящим клиническим пробелом.
Чёрный ящик делает только хуже
Мало того что клинический ИИ обычно оказывается обёрткой, он ещё и работает как чёрный ящик. Модель поглощает данные и выдаёт ответ. Врач не видит хода рассуждения. Не может выяснить, какие данные определили вывод. Не может приложить своё суждение к промежуточным шагам, потому что видимых промежуточных шагов нет.
На практике клиницисты относятся к таким ответам так же, как к сотням других оповещений электронной карты: с подозрением и с выработанной привычкой отмахиваться. Вовлечённость клиницистов в непрозрачных системах неизменно держится на уровне 10–15 процентов. Система срабатывает. Клиницист её игнорирует. ИИ работает, но клинически бездействует.
У систем, которые добились вовлечённости клиницистов выше 80 процентов, есть общая черта: их рассуждение видно. Клиницист понимает, что легло в основу оценки, и может не согласиться с конкретной её частью. Без этого внедрения не происходит. Я годами видел, как оно не случается, прежде чем взялся строить сам.
Как выглядит другой подход
Пациент, у которого креатинин на протяжении 18 месяцев растёт на 0,1 за квартал в анализах у двух разных врачей. Ни одно значение не вызвало тревоги. На каждом приёме число было «в пределах нормы». Система, читающая траектории, это замечает. Врач получает оповещение, в котором видны тренд, прогнозируемый путь и клиническое обоснование пометки. Она его изучает, соглашается и направляет пациента к нефрологу за год до того, как тот перешёл бы порог.
Именно такие изменения мы и учим Chroneme замечать. Мы проверяем систему по заранее зарегистрированному протоколу и опубликуем всё, что найдём, включая её слабые места.
Тот же интеллект, что ловит медленный дрейф в отделении интенсивной терапии, может поймать его и на приёме у терапевта. Та же система, что отмечает пульс, растущий неделями, может отметить HbA1c, растущий годами. Архитектура не меняется. Меняется масштаб времени.
Пятнадцать миллиардов долларов. Семьдесят одобрений. А для пациента не изменилось ничего.
Изменится, когда изменится инфраструктура. Когда клинический ИИ начнёт читать траектории, а не срезы. Когда системы будут показывать своё рассуждение, а не прятать его. Когда человек сможет видеть, как его здоровье меняется со временем, а не узнавать о болезни задним числом.
Это мы и строим в Chroneme.