Implantando a IA na área da saúde: separando o hype do útil

De todas as indústrias que romantizam a IA, as organizações de saúde podem ser as mais afetadas. Os executivos do health facility esperam que a IA um dia execute tarefas administrativas de saúde, como agendar consultas, inserir códigos de gravidade da doença, gerenciar exames laboratoriais e encaminhamentos de pacientes e monitorar e responder remotamente às necessidades de coortes inteiras de pacientes em suas vidas diárias.

Ao melhorar a eficiência, a segurança e o acesso, a IA pode ser de enorme benefício para o setor de saúde, diz Nigam Shahprofessor de medicina (informática biomédica) e de ciência de dados biomédicos na Universidade de Stanford e membro do corpo docente afiliado da Stanford Institute for Human-Targeted Synthetic Intelligence (HAI).

Mas advertência emptor, diz Shah. Os compradores de IA de saúde precisam considerar não apenas se um modelo de IA fornecerá a saída correta de maneira confiável – que tem sido o foco essential dos pesquisadores de IA – mas também se é o modelo certo para a tarefa em questão. “Precisamos pensar além do modelo”, diz ele.

Isso significa que os executivos devem considerar a complexa interação entre um sistema de IA, as ações que ele guiará e o benefício líquido de usar a IA em comparação com não usá-la. E, antes que os executivos tragam qualquer sistema de IA a bordo, Shah diz, eles devem ter uma estratégia de dados clara, um meio de testar o sistema de IA antes de comprá-lo e um conjunto claro de métricas para avaliar se o sistema de IA atingirá os objetivos organização estabeleceu para isso.

“Na implantação, a IA deve ser melhor, mais rápida, mais segura e mais barata. Caso contrário, é inútil”, diz Shah.

Nesta primavera, Shah conduzirá um curso de educação executiva de Stanford HAI para executivos seniores de saúde chamado “Uso seguro, ético e econômico da IA ​​na área da saúde: tópicos críticos para liderança sênior” para aprofundar essas questões.

O caso de negócios para IA na área da saúde

UMA recente relatório da McKinsey delineou as várias maneiras pelas quais tecnologias inovadoras, como a IA, estão sendo lentamente integradas aos modelos de negócios de saúde. Algumas IAs melhorarão a eficiência organizacional realizando tarefas rotineiras, como atribuir códigos de gravidade para cobrança. “Você pode fazer um humano ler o gráfico e levar 20 minutos para atribuir três códigos ou um computador ler o gráfico e atribuir três códigos em um milissegundo”, diz ele.

Outros sistemas de IA podem aumentar o acesso do paciente aos cuidados. Por exemplo, os sistemas de IA podem ajudar a garantir que os pacientes sejam encaminhados ao especialista certo e que obtenham os principais testes antes de uma visita inicial. “Muitas vezes, as primeiras visitas dos pacientes com especialistas são desperdiçadas porque eles são instruídos a fazer cinco testes e retornar em duas semanas”, diz Shah. “Um sistema de IA pode causar um curto-circuito nisso.” E ao pular essas visitas desperdiçadas, os médicos podem atender mais pacientes.

A IA também pode ser benéfica para a gestão da saúde, diz Shah. Por exemplo, um sistema de IA pode vigiar os pedidos de medicação dos pacientes ou até mesmo supervisionar os pacientes em suas casas, visando a deterioração iminente. Os chamados programas de health facility em casa podem exigir mais equipe de enfermagem do que a oferta, diz Shah, “mas se pudermos colocar cinco sensores em casa para fornecer alerta precoce de um problema, esses programas se tornarão viáveis”.

Quando implantar a IA na área da saúde

Apesar do potencial generalizado, atualmente não existem métodos padrão para determinar se um sistema de IA economizará dinheiro para um health facility ou melhorará o atendimento ao paciente. “Todas as orientações que as pessoas ou sociedades profissionais deram são sobre maneiras de construir IA”, diz Shah. “Há muito pouco sobre se, como ou quando usar a IA.”

Conselho de Shah aos executivos: defina uma estratégia de dados clara, tenha um plano para experimentar antes de comprar e defina métricas claras para avaliar se a implantação é benéfica.

Defina uma estratégia de dados

Como a IA é tão boa quanto os dados com os quais aprende, os executivos precisam ter uma estratégia e uma equipe para coletar dados diversos, rotular e limpar adequadamente esses dados e mantê-los continuamente, diz Shah. “Sem uma estratégia de dados, não há esperança de implantação de IA bem-sucedida.”

Por exemplo, se um fornecedor estiver vendendo tool de leitura de imagens médicas, a organização compradora precisa ter em mãos um conjunto substancial de dados retrospectivos que possa usar para testar o tool. Além disso, a organização precisa ter a capacidade de armazenar, processar e anotar seus dados para que possa continuar testando o produto novamente no futuro, para garantir que ainda esteja funcionando corretamente.

Experimente antes de comprar

As organizações de saúde devem testar os modelos de IA em seus próprios websites antes de comprá-los e torná-los operacionais, diz Shah. Esses testes ajudarão os hospitais a separar o óleo de cobra – IA que não cumpre suas reivindicações – da IA ​​eficaz, além de ajudá-los a avaliar se o modelo é adequadamente generalizável de seu website authentic para um novo. Por exemplo, diz Shah, se um modelo foi desenvolvido em Palo Alto, Califórnia, mas está sendo implantado em Mumbai, na Índia, deve haver alguns testes para verificar se o modelo funciona nesse novo contexto.

Além de verificar se o modelo é preciso e generalizável, os executivos terão que prestar atenção se o modelo é realmente útil quando implantado, se pode ser implementado sem problemas nos fluxos de trabalho existentes e se há procedimentos claros para monitorar o desempenho da IA está trabalhando após a implantação. “É como um pônei livre”, diz Shah. “Pode não haver custo para comprá-lo, mas pode haver um custo enorme para construir um celeiro e alimentá-lo por toda a vida.”

Estabeleça métricas claras para IA implantável

Os compradores de sistemas de IA também precisam avaliar o benefício líquido de um sistema de IA para ajudá-los a decidir quando usá-lo e quando desativá-lo, diz Shah.

Isso significa considerar questões como o contexto em que uma IA é implantada, a possibilidade de consequências não intencionais e a capacidade da organização de saúde de responder às recomendações de uma IA. Se, por exemplo, a organização estiver testando um modelo de IA que prevê reinternações de pacientes que receberam alta e sinaliza 50 pessoas para acompanhamento, a organização precisa ter funcionários disponíveis para fazer esse acompanhamento. Se isso não acontecer, o sistema de IA não é útil.

“Mesmo que o modelo seja construído corretamente, considerando seus processos de negócios e sua estrutura de custos, pode não ser o modelo certo para você”, diz Shah.

Efeitos cascata da IA ​​na área da saúde

Por fim, adverte Shah, os executivos devem considerar as ramificações mais amplas da implantação da IA. Alguns usos podem deslocar as pessoas de empregos antigos, enquanto outros podem aumentar o esforço humano de uma forma que aumenta o acesso aos cuidados. É difícil saber qual impacto acontecerá primeiro ou qual será mais significativo. E, eventualmente, os hospitais precisarão de um plano para retreinar e requalificar os trabalhadores deslocados.

“Embora a IA certamente tenha muito potencial no ambiente de saúde”, diz Shah, “perceber esse potencial exigirá a criação de unidades organizacionais que gerenciam a estratégia de dados, o ciclo de vida do modelo de aprendizado de máquina e a entrega de ponta a ponta da IA ​​no sistema de atendimento”.

Katharine Miller é uma escritora colaboradora do Stanford Institute for Human-Targeted AI.

Esta história apareceu originalmente em Hai.stanford.edu. Direitos autorais 2022