Por que você deve usar IA para contratação

Algumas semanas atrás, a VentureBeat publicou um artigo intitulado “Por que você não deve usar IA para contratação” que alegaram deficiências nas ferramentas de contratação baseadas em IA as tornam injustas. Como alguém que trabalha no setor de tecnologia de recrutamento há duas décadas e lidera pesquisa e inovação de produtos em uma empresa de plataforma de contratação baseada em IA, gostaria de oferecer um contraponto a essa história.

O autor da história, o CodePath CTO Nathan Esquenazi, apresenta vários pontos-chave sobre por que a IA é problemática para decisões de alto risco sobre pessoas, incluindo:

• A IA tem risco de viés
• Os dados usados ​​para treinar a IA podem ser tendenciosos
• Você pode combinar pessoas a empregos sem IA sofisticada

Nesses pontos, o autor está completamente errado... err, realmente correto. Completamente correto. Mas quero esclarecer alguns pontos sobre a IA na contratação porque ela pode ser bastante útil nos contextos certos.

Antes de mais nada, precisamos desmistificar o termo “inteligência synthetic”. Quando essa frase ganhou destaque na década de 1950, referia-se a um esforço crescente para criar máquinas que pudessem imitar a resolução de problemas humanos. Fazia sentido naquele contexto, e nas décadas seguintes capturou a imaginação fashionable mais do que provavelmente qualquer outro conceito científico. o o Exterminador do Futuro A franquia de filmes faturou bilhões de dólares, e as ideias de IA ultrasmart de Hollywood moldaram as trajetórias de inúmeros jovens engenheiros que trabalham para trazê-los da tela prateada para o mundo actual. Como diz o cientista da computação Astro Teller, “IA é a ciência de como fazer com que as máquinas façam as coisas que fazem nos filmes”.

Hoje, o termo “IA” refere-se a uma ampla gama de técnicas que processam dados de vários tipos. Embora essas técnicas tenham se originado da metáfora de um computador que pode “pensar” como um humano, elas não buscam necessariamente replicar as capacidades do cérebro. Então, realmente, a IA que está transformando nosso mundo com carros autônomos, interpretação de imagens médicas e muito mais, é apenas código de análise estatística. Pode dar sentido a dados não estruturados, complexos e confusos com os quais os métodos tradicionais, como os coeficientes de correlação, lutam. E, portanto, não há nada particularmente “synthetic” na maioria das técnicas de IA usadas, nem você pode chamar a maioria delas de “inteligentes” por conta própria.

Uma das partes impressionantes e assustadoras da IA ​​é que ela permite que os pesquisadores estudem enormes conjuntos de dados complexos e extraiam aspectos preditivos desses dados para uso em várias aplicações. É isso que seu carro autônomo sofisticado está fazendo e também o que a IA baseada em contratação pode fazer. A parte perigosa disso é que os humanos geralmente não entendem completamente quais fatores a IA está ponderando em suas previsões; portanto, se houver viés no conjunto de dados, ele poderá e provavelmente será replicado em escala.

E aqui está a coisa: o preconceito está em toda parte. É um aspecto difuso e insidioso do nosso mundo, e os grandes conjuntos de dados usados ​​para construir a IA refletem isso. Mas enquanto a IA mal desenvolvida pode amplificar inconscientemente o preconceito, o outro lado dessa moeda é que a IA também expõe o preconceito. E uma vez que sabemos que está lá, podemos controlá-lo. (Veja, por exemplo, o excelente documentário Viés codificado.)

Em minha função na Fashionable Rent, trabalho com psicólogos e cientistas de dados que estudam dados de candidatos para encontrar maneiras de aprimorar o que chamamos de “Quatro Es da Contratação: Eficiência, Eficácia, Engajamento e Ética”. Essencialmente, todo processo de contratação deve economizar pace, prever o desempenho e a retenção do trabalho/organização, ser envolvente para candidatos e recrutadores e ser justo para todas as partes. Com estatísticas pré-IA tradicionais, poderíamos facilmente pontuar dados numéricos, como respostas de avaliação, mas não poderíamos fazer o mesmo para dados não estruturados, como currículos, verificações de antecedentes, respostas digitadas e entrevistas. Hoje, no entanto, técnicas avançadas de IA permitem que os pesquisadores analisem e classifiquem esses tipos de fontes de dados, e isso está mudando o jogo.

Agora podemos usar a IA para quantificar fontes de dados qualitativos, como respostas de entrevistas. E uma vez que você pode quantificar algo, você pode ver se ele prevê resultados que importam, como trabalho e desempenho organizacional – e você também pode verificar se essas previsões são tendenciosas contra grupos protegidos ou outros. As entrevistas não habilitadas por tecnologia têm um longo histórico de serem tendenciosas; nós, humanos, somos efetivamente máquinas de viés, com todos os tipos de vieses cognitivos para nos ajudar a avaliar e interpretar rapidamente a enorme quantidade de informações que nosso corpo recebe a cada segundo. As entrevistas tradicionais nada mais são do que encontros em que o entrevistador conversa com o entrevistado e cria uma impressão muito pouco científica dessa pessoa. Mas com a IA, podemos pontuar as respostas das entrevistas automaticamente e avaliar esses resultados numéricos estatisticamente.

Na Fashionable Rent, desenvolvemos um recurso chamado Computerized Interview Scoring (AIS) que faz exatamente isso. O que é importante entender é que não avaliamos ou pontuamos como uma pessoa se parece ou soa. Essas fontes de dados estão cheias de preconceitos e informações irrelevantes. Nossa pontuação começa com o uso apenas das palavras transcritas que um candidato fala porque esse conteúdo é o que o candidato nos dá para usar no processo de contratação. Nossa filosofia é que apenas os dados que os candidatos nos fornecem conscientemente para uso na decisão devem ser pontuados. Além disso, também fornecemos uma mensagem clara de consentimento de IA aos candidatos, permitindo que eles desativem a pontuação de IA.

Nas grandes amostras de dados que estudamos com o AIS, descobrimos que ele pode replicar as classificações de entrevista de entrevistadores treinados e especialistas no assunto. Isso é emocionante porque acontece instantaneamente. Mas e o preconceito? Essas pontuações AIS são tendenciosas contra categories protegidas? De fato, nossos dados mostraram que as pontuações geradas por AIS são quase quatro vezes menores em viés do que as pontuações de nossos especialistas treinados no assunto. Dessa forma, o AIS reduz pace e esforço, reproduction classificações humanas e faz tudo isso com níveis drasticamente mais baixos de viés.

Este artigo está longe de endossar a IA que é usada indiscriminadamente no processo de contratação. Se alguma coisa, é menos uma refutação do artigo authentic e mais uma extensão. Um martelo é uma ferramenta que pode ser usada para derrubar uma casa ou construir uma. A IA também é uma ferramenta poderosa e, quando aplicada de forma ponderada, cuidadosa, rigorosa e científica, pode levar a grandes melhorias na tecnologia de contratação. Mas devemos sempre ser extremamente cuidadosos para que as soluções que criamos ajudem não apenas as organizações, mas também os indivíduos. Como psicólogo, desejo usar ferramentas de tecnologia para tornar a contratação melhor para as pessoas, não apenas para as empresas. E nesse sentido, nunca tivemos uma tecnologia tão útil quanto a IA.

Eric Sydel, o vice-presidente executivo de inovação da empresa de plataforma de contratação baseada em IA Aluguel Moderno, onde supervisiona todas as iniciativas de pesquisa e inovação de produtos. Ele é um psicólogo organizacional-industrial, empresário e consultor com mais de duas décadas de experiência trabalhando nos setores de tecnologia de recrutamento e pessoal. Ele também é coautor do novo livro Talento de decodificação: como a IA e o large information podem resolver o quebra-cabeça de pessoas da sua empresapublicado pela Rapid Corporate Press.