←Crônica

O problema dos wrappers de IA na saúde

A maior parte da IA em saúde repete o mesmo erro, só que mais depressa

Chroneme / Crônica

Em 2024, mais de 70 empresas de IA em saúde obtiveram autorização da FDA. O investimento mundial em IA clínica passou de US$ 15 bilhões. Não houve grande sistema de saúde que não anunciasse sua estratégia de IA.

E o número de pacientes que pioram sem aviso nos hospitais americanos praticamente não mudou. A doença renal crônica continua levando anos para ser descoberta. Os erros diagnósticos ainda atingem, segundo estimativas, 12 milhões de adultos por ano no atendimento ambulatorial dos Estados Unidos. E o médico novo ainda pede que você recite de memória a lista dos seus remédios.

Alguma coisa está errada na abordagem.

O que a IA em saúde faz de verdade

Os produtos de IA clínica, em sua maioria, resumem evoluções, classificam imagens ou disparam alertas quando um número passa de um limiar. Tudo útil. Tudo wrapper. Pegam o dado clínico como ele já existe, passam por um modelo e apresentam um resultado. O dado de base continua igual. A forma como o sistema representa o paciente continua igual.

A radiologista que lê uma radiografia de tórax com apoio de IA continua lendo uma única imagem, de um único momento. A IA pode encontrar um nódulo que ela deixaria passar, e isso tem valor real. Mas não pode lhe dizer que a função pulmonar daquele paciente vem caindo em cinco exames ao longo de três anos, que a queda se acelerou depois de uma troca de medicação oito meses atrás e que a projeção aponta para DPOC em até dezoito meses. A informação existe, mas está espalhada por anos e por serviços diferentes. Nenhum wrapper chega até ela, porque um wrapper só enxerga o atendimento do dia.

Em quase toda IA clínica, a unidade de análise é uma consulta, uma evolução, uma imagem. Na doença humana, são anos. Enquanto uma escala não coincidir com a outra, a IA na saúde vai continuar dando respostas cada vez mais rápidas às perguntas erradas.

Na doença humana, a unidade de análise são os anos.

A armadilha da velocidade

Velocidade é a vantagem que todos citam. Resumir um sumário de alta em segundos. Redigir um encaminhamento enquanto o médico ainda conversa com o paciente. Extrair diagnósticos de texto livre num instante.

O esgotamento dos médicos é real, e o peso da documentação é esmagador. Tudo o que devolve tempo ao cuidado tem valor. Mas ganhar velocidade sobre a infraestrutura que já existe resolve um problema de eficiência, e só. A médica que recebe da IA um resumo impecável da consulta de hoje continua sem saber que a creatinina do paciente vem subindo há dois anos, em três serviços diferentes. O resumo saiu mais rápido. O quadro clínico é exatamente o mesmo.

Os sistemas de saúde adotam a IA que agiliza o trabalho, relatam ganhos de produtividade e dão a estratégia por bem-sucedida. Enquanto isso, o intervalo entre o início de uma doença e o seu diagnóstico continua onde estava. O sistema corre mais, na mesma direção. Ninguém perguntou se a direção está certa.

Por que o setor prefere wrappers

Wrappers são uma escolha racional. Pega-se um modelo pré-treinado, ajusta-se com texto clínico e lança-se um produto em poucos meses. Validar é simples: entra a evolução, sai o resumo. Vender também é terreno conhecido: “A gente se conecta ao seu prontuário eletrônico e o deixa mais inteligente.” Nenhuma conversa difícil sobre arquitetura de dados, nenhuma mudança no fluxo de trabalho.

Construir algo que leia a saúde ao longo do tempo é outra empreitada. É preciso representar o paciente ao longo dos anos e entre serviços diferentes, montar um raciocínio clínico que opere sobre a direção e não sobre a posição, validar em centenas de instituições e convencer hospitais de que diagnosticar uma doença dois anos antes justifica uma integração mais profunda do que a de um plugin de resumos.

Leva mais tempo, custa mais e exige conversas para as quais a maioria das equipes não está preparada. Mas é a única abordagem que enfrenta a lacuna clínica de verdade.

A caixa-preta agrava tudo

Além de wrapper, a maior parte da IA clínica é uma caixa-preta. O modelo recebe dados e devolve uma resposta. A médica não vê o raciocínio, não consegue saber quais dados pesaram na conclusão e não tem como aplicar o próprio julgamento às etapas intermediárias, porque nenhuma etapa intermediária aparece.

Na prática, os profissionais tratam essas respostas como tratam as centenas de outros alertas do prontuário eletrônico: com desconfiança e o reflexo, já treinado, de descartá-las. Sistemas opacos ficam, sistematicamente, em 10 a 15 por cento de adesão. O sistema dispara, o profissional ignora. A IA está ligada, mas é clinicamente inerte.

Os sistemas que passaram de 80 por cento de adesão têm uma coisa em comum: o raciocínio fica à vista. O profissional vê o que motivou a avaliação e pode discordar de pontos específicos. Sem isso, ninguém adota. Passei anos vendo a adoção não acontecer antes de começar a construir.

Como seria algo realmente diferente

Pense num paciente cuja creatinina sobe 0,1 por trimestre há 18 meses, medida em dois serviços diferentes. Nenhum valor isolado acionou alarme; em todas as consultas o número estava “dentro da faixa”. Um sistema que lê trajetórias percebe. A médica recebe um alerta que mostra a tendência, a projeção e o raciocínio clínico por trás da sinalização. Ela revisa, concorda e encaminha o paciente à nefrologia um ano antes de ele cruzar o limiar.

É esse tipo de mudança que o Chroneme está sendo construído para captar. Estamos fazendo a validação sob um protocolo pré-registrado e vamos publicar os resultados, inclusive onde ele deixa a desejar.

A inteligência que percebe uma piora lenta na UTI percebe também uma piora lenta no consultório de atenção primária. O sistema que sinaliza uma frequência cardíaca subindo ao longo de semanas sinaliza igualmente uma A1c subindo ao longo de anos. A arquitetura é a mesma. Muda a escala de tempo.

Quinze bilhões de dólares. Setenta autorizações. E, para o paciente, nada mudou.

Vai mudar quando mudar a infraestrutura. Quando a IA clínica ler trajetórias em vez de fotografias. Quando os sistemas mostrarem o raciocínio em vez de escondê-lo. Quando a saúde virar algo que a pessoa consegue ver mudando com o tempo, e não algo que só se descobre quando já aconteceu.

É o que estamos construindo no Chroneme.