A IA está transformando a medicina: veja como garantimos que funcione para todos

E se seu médico pudesse testar instantaneamente dezenas de tratamentos diferentes para descobrir o perfeito para seu corpo, sua saúde e seus valores? Dentro meu laboratório na Faculdade de Medicina da Universidade de Stanford, estamos trabalhando na tecnologia de inteligência synthetic (IA) para criar um “gêmeo virtual”: uma representação digital de você com base em seu histórico médico, perfil genético, idade, etnia e uma série de outros fatores, como se você fuma e quanto se exercita.

Se você estiver doente, a IA pode testar opções de tratamento nesse gêmeo computadorizado, percorrendo inúmeros cenários diferentes para prever quais intervenções serão mais eficazes. Em vez de escolher um regime de tratamento com base no que funciona para a pessoa média, seu médico pode desenvolver um plano com base no que funciona para vocês. E o gêmeo virtual aprende continuamente com suas experiências, sempre incorporando as informações mais atualizadas sobre sua saúde.

A IA está personalizando a medicina, mas para quais pessoas?

Embora essa ideia futurista possa parecer impossível, a inteligência synthetic pode tornar a medicina personalizada uma realidade mais cedo do que pensamos. O impacto potencial em nossa saúde é enorme, mas até agora os resultados têm sido mais promissores para alguns pacientes do que para outros. Como a IA é construída por humanos usando dados gerados por humanos, ela é propensa a reproduzir os mesmos preconceitos e desigualdades que já existem em nosso sistema de saúde.

Em 2019, pesquisadores analisaram um algoritmo usado por hospitais para determinar quais pacientes devem ser encaminhados para programas de cuidados especiais para pessoas com necessidades médicas complexas. Em teoria, esse é exatamente o tipo de IA que pode ajudar os pacientes a obter cuidados mais direcionados. No entanto, os pesquisadores descobriram que, à medida que o modelo estava sendo usado, generation significativamente menos provável atribuir pacientes negros a esses programas do que seus colegas brancos com perfis de saúde semelhantes. Esse algoritmo tendencioso não apenas afetou os cuidados de saúde recebidos por milhões de americanos, mas também sua confiança no sistema.

Obtendo dados, o alicerce da IA, certo

Esse cenário é muito comum para minorias sub-representadas. A questão não é a tecnologia em si. O problema começa muito antes, com as perguntas que fazemos e os dados que usamos para treinar a IA. Se queremos que a IA melhore a saúde para todos, precisamos acertar essas coisas antes de começarmos a construir nossos modelos.

Em primeiro lugar estão os dados, que muitas vezes são direcionados para os pacientes que mais usam o sistema de saúde: cidadãos americanos brancos, educados, ricos e cisgêneros. Esses grupos têm melhor acesso a cuidados médicos, por isso estão super-representados em conjuntos de dados de saúde e ensaios de pesquisa clínica.

Para ver o impacto que esses dados distorcidos têm, practice o câncer de pele. Aplicativos orientados por IA podem Salve vidas analisando fotos de verrugas das pessoas e alertando-as para qualquer coisa que deveriam ter verificado por um dermatologista. Mas esses aplicativos são treinados em catálogos existentes de lesões de câncer de pele dominadas por imagens de pacientes de pele clara, então eles não funcionam tão bem para pacientes com pele mais escura. A predominância de pacientes de pele clara na dermatologia foi simplesmente transferida para o mundo virtual.

Meus colegas e european nos deparamos com um problema semelhante ao desenvolver um Modelo de IA para prever se os pacientes com câncer em tratamento quimioterápico acabarão indo ao pronto-socorro. Os médicos podem usar essa ferramenta para identificar pacientes em risco e fornecer a eles tratamento e recursos direcionados para evitar hospitalizações, melhorando assim os resultados de saúde e reduzindo custos. Embora as previsões de nossa IA tenham sido promissoras, os resultados não foram tão confiáveis ​​para pacientes negros. Como os pacientes representados nos dados que alimentamos em nosso modelo não incluíam pessoas negras suficientes, o modelo não conseguiu aprender com precisão os padrões que importam para essa população.

Adicionando diversidade aos modelos de treinamento e equipes de dados

É claro que precisamos treinar sistemas de IA com dados mais robustos que representam uma gama mais ampla de pacientes. Também precisamos fazer as perguntas certas sobre os dados e pensar cuidadosamente sobre como enquadramos os problemas que estamos tentando resolver. Em um painel que moderei no Mulheres na Ciência de Dados (WiDS) conferência anual em março, o Dr. Jinoos Yazdany, do Zuckerberg San Francisco Normal Health facility, deu um exemplo de por que o enquadramento é importante: sem o contexto adequado, uma IA pode chegar a conclusões ilógicas como inferir que uma visita do capelão do health facility contribuiu para a morte de um paciente (quando, na verdade, foi o contrário – o capelão veio porque o paciente estava morrendo).

Para entender problemas complexos de saúde e garantir que estamos fazendo as perguntas certas, precisamos de equipes interdisciplinares que combinem cientistas de dados com especialistas médicos, além de especialistas em ética e cientistas sociais. Durante o painel do WiDS, minha colega de Stanford, Dra. Sylvia Plevritis, explicou por que seu laboratório é metade pesquisadores de câncer e metade cientistas de dados. “No ultimate das contas”, ela disse, “você quer responder a uma pergunta biomédica ou quer resolver um problema biomédico”. Precisamos de várias formas de experiência trabalhando juntas para construir ferramentas poderosas que possam identificar câncer de pele ou prever se um paciente acabará no health facility.

Também precisamos de diversidade nas equipes de pesquisa e na liderança da saúde para ver os problemas de diferentes ângulos e trazer soluções inovadoras para a mesa. Digamos que estamos construindo um modelo de IA para prever quais pacientes têm maior probabilidade de faltar às consultas. As mães que trabalham na equipe podem inverter a questão e, em vez disso, perguntar quais fatores são mais propensos a impedir as pessoas de marcar sua consulta, como agendar uma sessão no meio do horário de coleta depois da escola.

Profissionais de saúde são necessários no desenvolvimento de IA

A última peça do quebra-cabeça é como os sistemas de IA são colocados em prática. Os líderes de saúde devem ser consumidores críticos dessas novas tecnologias chamativas e perguntar como a IA funcionará para todos os pacientes sob seus cuidados. As ferramentas de IA precisam se encaixar nos fluxos de trabalho existentes para que os provedores realmente as usem (e continuem adicionando dados aos modelos para torná-los mais precisos). Envolver profissionais de saúde e pacientes no desenvolvimento de ferramentas de IA leva a produtos finais com muito mais probabilidade de serem usados ​​com sucesso e ter impacto nos cuidados e nos resultados dos pacientes.

Fazer com que as ferramentas orientadas por IA funcionem para todos não deve ser uma prioridade apenas para grupos marginalizados. Dados incorretos e modelos imprecisos prejudicam a todos nós. Durante nosso painel WiDS, a Dra. Yazdany discutiu um programa de IA que ela desenvolveu para prever resultados para pacientes com artrite reumatóide. O modelo foi originalmente criado usando dados de um health facility de ensino e pesquisa mais abastado. Quando eles adicionaram dados de um health facility native que atende a uma população de pacientes mais diversificada, isso não apenas melhorou as previsões da IA ​​para pacientes marginalizados, mas também tornou os resultados mais precisos para todos, incluindo pacientes do health facility unique.

A IA revolucionará a medicina prevendo problemas de saúde antes que eles aconteçam e identificando os melhores tratamentos personalizados para nossas necessidades individuais. É essencial que coloquemos as bases certas agora para garantir que a assistência médica orientada por IA funcione para todos.

A Dra. Tina Hernandez Boussard é Professora Associada da Universidade de Stanford que trabalha em informática biomédica e o uso da tecnologia de IA na área da saúde. Muitas das perspectivas neste artigo vieram de seu painel no evento deste ano Mulheres na Ciência de Dados (WiDS) Conferência anual.