Hello Siri: assistentes virtuais estão ouvindo as crianças e usando os dados

Em muitos lares ocupados em todo o mundo, não é incomum que as crianças gritem instruções para a Siri da Apple ou Alexa da Amazon. Eles podem fazer um jogo perguntando ao assistente pessoal ativado por voz (VAPA) que horas são ou solicitando uma música common. Embora isso possa parecer uma parte mundana da vida doméstica, há muito mais acontecendo. Os VAPAs estão continuamente ouvindo, gravando e processando acontecimentos acústicos em um processo que foi apelidado de “eavesmining”, uma junção de espionagem e datamining. Isso levanta preocupações significativas relacionadas a questões de privacidade e vigilância, bem como discriminação, à medida que os traços sonoros da vida das pessoas se tornam dados e escrutinados por algoritmos.

Essas preocupações se intensificam à medida que as aplicamos às crianças. Seus dados são acumulados ao longo da vida de maneiras que vão muito além do que já foi coletado em seus pais, com consequências de longo alcance que nem começamos a entender.

Sempre ouvindo

A adoção de VAPAs está avançando em um ritmo impressionante, uma vez que se estende para incluir telefones celulares, alto-falantes inteligentes e o número cada vez maior de produtos conectados à Web. Isso inclui brinquedos digitais infantis, sistemas de segurança doméstica que detectam arrombamentos e campainhas inteligentes que podem captar conversas na calçada.

Existem questões prementes que derivam da coleta, armazenamento e análise de dados sonoros no que se refere a pais, jovens e crianças. Alarmes foram disparados no passado – em 2014, os defensores da privacidade levantaram preocupações sobre o quanto o Amazon Echo estava ouvindo, quais dados estavam sendo coletados e como os dados seriam usados ​​pelos mecanismos de recomendação da Amazon.

E, no entanto, apesar dessas preocupações, os VAPAs e outros sistemas de espionagem se espalharam exponencialmente. Uma pesquisa de mercado recente prevê que, até 2024, o número de dispositivos ativados por voz explodirá para mais de 8,4 bilhões.

Gravando mais do que apenas fala

Há mais coisas sendo coletadas do que apenas declarações proferidas, já que VAPAs e outros sistemas de espionagem ouvem características pessoais de vozes que involuntariamente revelam atributos biométricos e comportamentais, como idade, sexo, saúde, intoxicação e personalidade.

Informações sobre ambientes acústicos (como um apartamento barulhento) ou eventos sonoros específicos (como vidro quebrando) também podem ser obtidas por meio de “análise de cena auditiva” para fazer julgamentos sobre o que está acontecendo naquele ambiente.

Os sistemas de espionagem já têm um histórico recente de colaboração com agências de aplicação da lei e de serem intimados por dados em investigações criminais. Isso levanta preocupações de outras formas de vigilância e perfilamento de crianças e famílias.

Por exemplo, os dados do alto-falante inteligente podem ser usados ​​para criar perfis como “famílias barulhentas”, “estilos de educação disciplinar” ou “jovens problemáticos”. Isso poderia, no futuro, ser usado pelos governos para traçar o perfil daqueles que dependem de assistência social ou famílias em crise com consequências potencialmente terríveis.

Há também novos sistemas de espionagem apresentados como uma solução para manter as crianças seguras, chamados de “detectores de agressão”. Essas tecnologias consistem em sistemas de microfone carregados com device de aprendizado de máquina, alegando duvidosamente que podem ajudar a antecipar incidentes de violência ao ouvir sinais de aumento de quantity e emoções nas vozes e outros sons, como vidro quebrando.

Monitoramento de escolas

Os detectores de agressão são anunciados em revistas de segurança escolar e em convenções de aplicação da lei. Eles foram implantados em espaços públicos, hospitais e escolas de ensino médio sob o pretexto de serem capazes de antecipar e detectar tiroteios em massa e outros casos de violência letal.

Mas há sérios problemas em torno da eficácia e confiabilidade desses sistemas. Uma marca de detector repetidamente interpretou mal os sinais vocais de crianças, incluindo tosse, gritos e aplausos como indicadores de agressão. Isso levanta a questão de quem está sendo protegido e quem ficará menos seguro por seu design.

Algumas crianças e jovens serão desproporcionalmente prejudicados por esta forma de escuta securitizada, e os interesses de todas as famílias não serão uniformemente protegidos ou atendidos. Uma crítica recorrente da tecnologia ativada por voz é que ela reproduz preconceitos culturais e raciais ao impor normas vocais e reconhecer erroneamente formas de fala culturalmente diversas em relação à linguagem, sotaque, dialeto e gíria.

Podemos antecipar que o discurso e as vozes de crianças e jovens racializados serão desproporcionalmente mal interpretados como um som agressivo. Essa previsão preocupante não deve surpreender, pois segue as histórias coloniais e de supremacia branca profundamente arraigadas que policiam consistentemente uma “linha de cor sônica”. Política sólida Eavesmining é um web site rico de informações e vigilância, pois as atividades sonoras de crianças e famílias tornaram-se fontes valiosas de dados a serem coletados, monitorados, armazenados, analisados ​​e vendidos sem o conhecimento do sujeito para milhares de terceiros. Essas empresas são orientadas para o lucro, com poucas obrigações éticas para com as crianças e seus dados.

Sem nenhuma exigência prison para apagar esses dados, os dados se acumulam ao longo da vida das crianças, podendo durar para sempre. Não se sabe por quanto pace e quão longe esses rastros digitais seguirão as crianças à medida que envelhecem, quão difundidos esses dados serão compartilhados ou quanto esses dados serão cruzados com outros dados. Essas questões têm sérias implicações na vida das crianças, tanto atualmente quanto à medida que envelhecem.

Há uma miríade de ameaças representadas pela espionagem em termos de privacidade, vigilância e discriminação. Recomendações individualizadas, como educação em privacidade informacional e treinamento em alfabetização virtual, serão ineficazes para lidar com esses problemas e colocarão uma responsabilidade muito grande sobre as famílias para desenvolver os conhecimentos necessários para combater a espionagem em espaços públicos e privados.

Precisamos considerar o avanço de uma estrutura coletiva que combata os riscos e as realidades únicas da espionagem. Talvez o desenvolvimento de Princípios de Práticas de Audição Justas – um giro auditivo sobre os “Princípios de Práticas de Informação Justa” – ajudaria a avaliar as plataformas e processos que impactam a vida sonora de crianças e famílias.