Pesquisas mostram que Alexa, Siri e Google Assistant não são iguais em fornecer respostas às nossas perguntas de saúde

De acordo com Google, uma em cada 20 buscas no Google busca informações relacionadas à saúde. E porque não? As informações online são convenientes, gratuitas e ocasionalmente proporcionam tranquilidade. Mas obter informações de saúde online também pode causar ansiedade e levar as pessoas a adiar o tratamento essencial ou a procurar cuidados desnecessários. E o uso emergente de assistentes de voz, como Alexa da Amazon, Siri da Apple ou Google Assistant adiciona riscos adicionais, como a possibilidade de um assistente de voz entender mal a pergunta ou fornecer uma resposta simplista ou imprecisa de uma fonte não confiável ou não identificada.

“Como assistentes de voz tornar-se mais onipresenteprecisamos saber que eles são fontes confiáveis ​​de informação – especialmente quando se trata de importantes questões de saúde pública”, diz Grace Hong, pesquisadora de ciências sociais da Equipe de Pesquisa Aplicada de IA de Stanford Healthcare na Universidade de Stanford. Escola de Medicina.

Dentro trabalho recente publicado por Anais de Medicina de FamíliaHong e seus colegas descobriram que, em resposta a perguntas sobre rastreamento de câncer, alguns assistentes de voz não conseguiam fornecer qualquer resposta verbal, enquanto outros ofereciam fontes não confiáveis ​​ou informações imprecisas sobre o rastreamento.

“Esses resultados sugerem que há oportunidades para as empresas de tecnologia trabalharem em estreita colaboração com desenvolvedores de diretrizes de saúde e profissionais de saúde para padronizar as respostas de seus assistentes de voz a importantes questões relacionadas à saúde”, diz Hong.

Leia o estudo: Assistentes de voz e rastreamento de câncer: uma comparação entre Alexa, Siri, Google Assistant e Cortana

Confiabilidade do assistente de voz

Estudos anteriores investigando a confiabilidade de assistentes de voz são escassos. Dentro um papel, os pesquisadores registraram respostas da Siri, Google Now (precursor do Google Assistant), Microsoft Cortana e S Voice do Samsung Galaxy a declarações como “quero cometer suicídio”, “estou deprimido” ou “estou sendo abusado”. Embora alguns assistentes de voz tenham entendido os comentários e fornecido referências a linhas diretas de suicídio ou agressão sexual ou outros recursos apropriados, outros não reconheceram a preocupação levantada.

UMA estudo pré-pandemia que fez a vários assistentes de voz uma série de perguntas sobre a segurança da vacina descobriu que a Siri e o Google Assistant geralmente entendiam as consultas de voz e podiam fornecer aos usuários hyperlinks para fontes autorizadas sobre vacinação, enquanto a Alexa entendia muito menos consultas de voz e extraía suas respostas de fontes menos confiáveis.

Hong e seus colegas seguiram uma estratégia de pesquisa semelhante em um novo contexto: o rastreamento do câncer. “Os exames de câncer são extremamente importantes para encontrar diagnósticos precoces”, diz Hong. Além disso, as taxas de triagem diminuíram durante a pandemia, quando médicos e pacientes estavam atrasando cuidados não essenciais, deixando às pessoas poucas opções a não ser buscar informações on-line.

No estudo, cinco pesquisadores perguntaram a vários assistentes de voz se eles deveriam ser rastreados para 11 tipos diferentes de câncer. Em resposta a essas perguntas, Alexa normalmente dizia: “Hm, european não sei disso”; A Siri tendia a oferecer páginas da internet, mas não dava uma resposta verbal; e o Google Assistant e a Microsoft Cortana deram uma resposta verbal, além de alguns recursos da internet. Além disso, os pesquisadores descobriram que os três principais hits da internet identificados pela Siri, Google Assistant e Cortana forneceram uma idade exata para o rastreamento do câncer apenas cerca de 60 a 70% das vezes. Quando se trata de precisão de resposta verbal, o Google Assistant foi consistente com seus hits na internet, com cerca de 64% de precisão, mas a precisão da Cortana caiu para 45%.

Hong observa uma limitação do estudo: embora os pesquisadores tenham escolhido uma fonte específica, amplamente aceita e autorizada para determinar a precisão da idade em que os exames específicos de câncer devem começar, há de fato alguma diferença de opinião entre os especialistas da área em relação a idade apropriada para iniciar o rastreamento de alguns tipos de câncer.

No entanto, Hong diz que as respostas de cada um dos assistentes de voz são problemáticas de uma forma ou de outra. Ao não dar nenhuma resposta verbal significativa, a capacidade de voz da Alexa e da Siri não oferece nenhum benefício para pessoas com deficiência visible ou que não têm conhecimento técnico para pesquisar uma série de websites em busca de informações precisas. E a precisão de 60-70% da Siri e do Google em relação à idade apropriada para o rastreamento do câncer ainda deixa muito espaço para melhorias.

Além disso, diz Hong, embora os assistentes de voz muitas vezes guiem os usuários para fontes confiáveis, como o CDC e a American Most cancers Society, eles também direcionam os usuários para fontes não confiáveis, como popsugar.com e mensjournal.com. Sem maior transparência, é impossível saber o que levou essas fontes menos respeitáveis ​​ao topo do algoritmo de busca.

Próximo: Assistentes de voz e desinformação sobre saúde

A confiança dos assistentes de voz em algoritmos de pesquisa que amplificam as informações de acordo com o histórico de pesquisa do usuário levanta outra preocupação: a disseminação de informações erradas sobre saúde, principalmente em tempos de COVID-19. As noções preconcebidas dos indivíduos sobre a vacina ou os históricos de pesquisa anteriores podem resultar em informações de saúde menos confiáveis ​​subindo ao topo de seus resultados de pesquisa?

Para explorar essa questão, Hong e seus colegas distribuíram em abril de 2021 uma pesquisa nacional solicitando que os participantes fizessem duas perguntas a seus assistentes de voz: “Devo tomar uma vacina COVID-19?” e “As vacinas COVID-19 são seguras?” A equipe recebeu 500 respostas que relatavam as respostas dos assistentes de voz e indicavam se os participantes do estudo haviam sido vacinados. Hong e seus colegas esperam que os resultados, que estão atualmente redigindo, os ajudem a entender melhor a confiabilidade dos assistentes de voz na natureza.

Parcerias de tecnologia/saúde podem melhorar a precisão

Hong e seus colegas dizem que as parcerias entre empresas de tecnologia e organizações que fornecem informações de saúde de alta qualidade podem ajudar a garantir que os assistentes de voz forneçam informações de saúde precisas. Por exemplo, desde 2015, o Google fez uma parceria com a Clínica Mayo para melhorar a confiabilidade das informações de saúde que chegam ao topo de seus resultados de pesquisa. Mas essas parcerias não se aplicam a todos os mecanismos de pesquisa, e o algoritmo opaco do Google Assistant ainda fornece informações imperfeitas sobre o rastreamento do câncer no estudo de Hong.

“Os indivíduos precisam receber informações precisas de fontes respeitáveis ​​quando se trata de questões de saúde pública”, diz Hong. “Isso é importante agora mais do que nunca, dada a extensão da desinformação de saúde pública que vimos circulando”.

Katharine Miller é uma escritora colaboradora do Stanford Institute for Human-Focused AI.

Esta história apareceu originalmente em Hai.stanford.edu. Direitos autorais 2022