Microsoft restringe suas ferramentas de reconhecimento facial, citando a necessidade de ‘IA responsável’

A Microsoft está restringindo o acesso às suas ferramentas de reconhecimento facial, citando riscos sociais e raciais que os sistemas de inteligência synthetic podem representar.

A corporação de tecnologia lançou um relatório de 27 páginas Padrão de IA responsável na terça-feira que detalha os objetivos da empresa em relação à IA equitativa e confiável. Para se alinhar ao padrão, a Microsoft está limitando o acesso a ferramentas de reconhecimento facial em API Azure Face, Visão Computacional e Indexador de Vídeo.

“Reconhecemos que, para que os sistemas de IA sejam confiáveis, eles precisam ser soluções apropriadas para os problemas que foram projetados para resolver”, escreveu Natasha Crampton, diretora de IA responsável da Microsoft, em um submit no weblog. Ela acrescentou que a empresa aposentaria seus serviços do Azure que inferem “estados emocionais e atributos de identidade, como sexo, idade, sorriso, barba, cabelo e maquiagem”.

A tecnologia de reconhecimento facial tornou-se uma preocupação crescente com direitos civis e privacidade. Estudos têm mostrado a tecnologia identifica erroneamente, em uma taxa desproporcional, sujeitos do sexo feminino e sujeitos com heaps de pele mais escuros. Isso pode ter sérias implicações quando usado para identificar suspeitos de crimes ou em situações de vigilância. Outras empresas, incluindo Amazon e Fb, também reduziram ou descontinuaram suas próprias ferramentas de reconhecimento facial.

“[Our laws] não alcançaram os riscos únicos da IA ​​ou as necessidades da sociedade. Embora vejamos sinais de que a ação do governo na IA está se expandindo, também reconhecemos nossa responsabilidade de agir”, disse a Microsoft em um submit no weblog.

Os padrões da Microsoft para tecnologia de IA equitativa e responsável não param no reconhecimento facial. Eles também se aplicam à tecnologia de fala para texto que a empresa oferece por meio da Voz Neural Personalizada do Azure AI. A Microsoft disse que tomou medidas para melhorar o tool depois que um estudo de março de 2020 detalhou altas taxas de erro nas tecnologias de fala para texto quando usadas em comunidades afro-americanas e negras.

A partir de terça-feira, a Microsoft disse que novos clientes precisarão se inscrever para usar API Face do Azuree os clientes que retornam têm um ano para se inscrever novamente para continuar usando o tool de reconhecimento facial.