4 dicas para implementar a IA de forma responsável e ética para contratação

Este artigo foi contribuído por Sanjoe Jose, CEO da Talview.

Inteligência synthetic (AI) transformou a aquisição de talentos, resolvendo alguns dos maiores desafios do setor – como lidar com grandes volumes de aplicativos – e nivelando drasticamente o campo de atuação dos candidatos. A prova do seu sucesso está no pudim: alguns 40% das empresas dos EUA agora selecionam e avaliam os candidatos usando IA. E esse número só terá crescido pós-pandemia devido à contratação remota.

No entanto, Sistemas de contratação de suporte de IA também têm alguns desafios e limitações próprias. Toda tecnologia é propensa a erros ocasionais, mas quando um erro afeta repetidamente e adversamente um determinado grupo de candidatos, isso é um sinal provável de que vieses surgiram no sistema.

Então, como as empresas garantem que sua tecnologia de IA esteja melhorando a ética e a equidade de seu processo de contratação, não atrapalhando? Vamos explorar.

1. Testes robustos e relatórios de patrimônio

Se uma empresa estiver trabalhando ao lado ou em parceria com um provedor de tecnologia de RH, eles devem garantir que os provedores publiquem relatórios de equidade de recomendações de IA regularmente – pelo menos a cada seis meses, com base em testes rigorosos.

Provedores confiáveis ​​geralmente realizam comparações entre grupos usando testes estatísticos, como um teste t. É quando dois grupos de amostras de subpopulações contrastantes no grupo de candidatos – como etnia, idade ou gênero – são analisados ​​para verificar a probabilidade de que as diferenças nas recomendações de IA entre esses dois grupos sejam coincidentes.

Se a probabilidade for baixa, isso indica um viés no sistema. Os provedores precisarão voltar e trabalhar em seus modelos para localizar e eliminar qualquer coisa que tenha contribuído para esse viés. Os testes T também são frequentemente acompanhados por um teste D de Cohen, que estabelece o tamanho da diferença entre os dois grupos (também conhecido como tamanho do efeito) e se é significativo o suficiente para merecer atenção.

2. Separação de ambientes de produção e de treinamento

A modelo ético de IA é aquele que nunca é colocado em produção sem testes rigorosos que comprovadamente erradicam o viés de contratação. Exemplos bem documentados de viés que ocorrem na tecnologia de contratação de grandes empresas, como Amazonas e Googleagem como contos de advertência sobre o que acontece quando as salvaguardas adequadas não são postas em prática desde o início.

O cenário ultimate seria ter duas versões do mesmo modelo: uma que já passou por testes de equidade substanciais (como os descritos acima) e entrou em produção, e outra que não é para uso em produção, mas cuja função primary é aprender com novos dados continuamente.

Este modelo de aprendizagem deve ser continuamente avaliado, e a nova versão só será colocada em produção após a eliminação de quaisquer fatores que contribuam para as questões patrimoniais. Isso geralmente exigiria examinar os dados de treinamento durante um período de pace e retreiná-los com um novo conjunto de dados depurado até que o problema fosse resolvido.

3. Orientado a dados, mas centrado no ser humano

Os recrutadores geralmente não conseguem revisar uma porcentagem significativa de inscrições, mas a IA pode ajudá-los a descobrir os candidatos mais adequados que, de outra forma, não encontrariam. A IA é um divisor de águas para simplificar e melhorar os processos de contratação, mas nunca deve substituir completamente a tomada de decisões humanas. Por exemplo, recomendações baseadas em IA podem ser usadas para priorizar candidatos para divulgação, mas não para eliminar completamente as inscrições individuais.

O julgamento humano e a intuição no processo de contratação sempre serão vitais quando os algoritmos às vezes podem passar por cima de candidatos atípicos que seriam ótimos para o trabalho. Alguns candidatos podem ter currículos incompletos ou uma pegada virtual menor em relação a realizações profissionais, e os modelos baseados em IA podem perdê-los, pois as palavras-chave que os algoritmos estão examinando podem não aparecer.

A solução é entrevistar candidatos pelo mesmo período de pace com as mesmas perguntas e oportunidade de resposta, conhecido como ambiente restrito. Isso ajudará a nivelar o campo de jogo e mitigar preconceitos ao longo do caminho.

4. A experiência em potencial supera

Está se tornando cada vez mais fácil jogar os processos de contratação em seu jogo e para os candidatos tecer palavras-chave em seus currículos para enganar o algoritmo em pensar que eles são os mais adequados para o papel. Da mesma forma, os testes psicométricos populares também estão se tornando fáceis de enganar. É por isso que é sempre melhor implantar uma variedade de avaliações diferentes e aprimorar o potencial em vez de habilidades e experiência.

Avaliações comportamentais orientadas por IA e PNL realizadas durante entrevistas – ou gravações de vídeo e áudio – podem identificar a adequação de um candidato para a função usando técnicas baseadas em linguística para entender suas competências comportamentais, como inteligência emocional e social e abertura a novos ideias e liderança. Isso cria mais equidade no processo de contratação, especialmente quando se trata de fatores como idade e origem econômica.

Na melhor das hipóteses, as ferramentas de contratação orientadas por IA são inestimáveis ​​para recrutadores e departamentos de RH que desejam tornar seus processos mais eficientes e equitativos. No entanto, essa tecnologia deve ser continuamente testada e protegida em todos os pontos de seu desenvolvimento, produção e implantação para evitar criar mais preconceitos em vez de eliminá-los.

Os melhores e mais éticos sistemas de contratação são suportados pela IA, mas, em última análise, tudo se resume à tomada de decisões humanas para descobrir o potencial humano.

Sanjoe Jose é CEO da Talview.