Em 2019, os guardas nas fronteiras da Grécia, Hungria e Letônia começaram a testar um detector de mentiras alimentado por inteligência synthetic. O sistema, chamado iBorderCtrl, analisou os movimentos faciais para tentar detectar sinais de que uma pessoa estava mentindo para um agente de fronteira. O julgamento foi impulsionado por quase US $ 5 milhões em financiamento de pesquisa da União Europeia e quase 20 anos de pesquisa na Manchester Metropolitan College, no Reino Unido.
O julgamento gerou polêmica. Polígrafos e outras tecnologias construídas para detectar mentiras de atributos físicos foram amplamente declaradas por psicólogos não confiáveis. Brand, erros também foram relatados no iBorderCtrl. Relatos da mídia indicaram que seu algoritmo de previsão de mentiras não funcionou, e o próprio web page do projeto reconheceu que a tecnologia “pode implicar riscos para os direitos humanos fundamentais”.
Este mês, a Silent Talker, uma empresa desmembrada do Manchester Met que fez a tecnologia subjacente ao iBorderCtrl, foi dissolvida. Mas esse não é o fim da história. Advogados, ativistas e legisladores estão pressionando por uma lei da União Europeia para common a IA, que baniria sistemas que alegam detectar fraudes humanas na migração – citando o iBorderCtrl como um exemplo do que pode dar errado. Ex-executivos da Silent Talker não foram encontrados para comentar.
A proibição de detectores de mentiras de IA nas fronteiras é uma das milhares de emendas à Lei de IA que estão sendo consideradas por funcionários de países da UE e membros do Parlamento Europeu. A legislação destina-se a proteger os direitos fundamentais dos cidadãos da UE, como o direito de viver sem discriminação ou de declarar asilo. Ele rotula alguns casos de uso de IA de “alto risco”, alguns de “baixo risco” e proíbe outros. Aqueles que fazem foyer para mudar o AI Act incluem grupos de direitos humanos, sindicatos e empresas como Google e Microsoft, que querem que o AI Act estabeleça uma distinção entre aqueles que fazem sistemas de IA de propósito geral e aqueles que os implantam para usos específicos.
No mês passado, grupos de defesa, incluindo Ecu Virtual Rights e Platform for World Cooperation on Undocumented Migrants, pediram que a lei proibisse o uso de polígrafos de IA que medem coisas como movimento dos olhos, tom de voz ou expressão facial nas fronteiras. A Statewatch, uma organização sem fins lucrativos de liberdades civis, divulgou uma análise alertando que o AI Act, conforme escrito, permitiria o uso de sistemas como o iBorderCtrl, somando-se ao existente “ecossistema de IA de fronteira com financiamento público” da Europa. A análise calculou que, nas últimas duas décadas, cerca de metade dos € 341 milhões (US$ 356 milhões) em financiamento para uso de IA na fronteira, como perfis de migrantes, foi para empresas privadas.
O uso de detectores de mentiras de IA nas fronteiras cria efetivamente uma nova política de imigração por meio da tecnologia, diz Petra Molnar, diretora associada do Refugee Legislation Lab, sem fins lucrativos, rotulando todos como suspeitos. “Você tem que provar que é um refugiado e é considerado um mentiroso, a menos que turn out o contrário”, diz ela. “Essa lógica sustenta tudo. Ele sustenta detectores de mentiras de IA e sustenta mais vigilância e resistência nas fronteiras.”
Molnar, um advogado de imigração, diz que as pessoas muitas vezes evitam contato visible com oficiais de fronteira ou migração por razões inócuas – como cultura, religião ou trauma – mas isso às vezes é interpretado erroneamente como um sinal de que uma pessoa está escondendo algo. Os humanos muitas vezes lutam com a comunicação intercultural ou falando com pessoas que sofreram traumas, diz ela, então por que as pessoas acreditariam que uma máquina pode fazer melhor?
.
Fonte da Notícia: www.stressed.com
