A Inteligência Artificial (AI) é uma gestora de pessoas invisível e promete levar o recrutamento nas empresas para além da capacidade humana. Ela usa dados para tomar decisões automatizadas sobre quem é contratado e demitido. A partir disso, surgem dois questionamentos: se de um lado ela é capaz de trilhar um milhão de currículos e ordenar todos os seus candidatos de acordo com o perfil da vaga em um segundo, por outro lado ela contrata e demite pessoas com critérios que se desconhece. Às vezes, nem se sabe quando ela toma essas decisões.
O argumento das empresas de recrutamento que utilizam a máquina é que a poderosa e completa ferramenta é capaz de encontrar o melhor candidato para as vagas de maneira tão simples quanto pesquisar num site de busca. Sendo assim, a Inteligência Artificial possibilita ter sempre em mãos uma lista atualizada, em tempo real, dos candidatos de maior afinidade com a vaga. A máquina utiliza o viés da afinidade, que é a semelhança matemática entre a descrição da vaga, o currículo e as respostas dos candidatos. Isso significa dizer que, em uma empresa de tecnologia que tem pessoas brancas como a maioria de seus funcionários, ela utiliza um sistema algorítmico desenhado para priorizar primeiramente esse perfil para a vaga. Dessa forma, pode-se recomendar desproporcionalmente a contratação de mais homens brancos, porque seu perfil se enquadra mais com a cultura já existente na empresa.
Os algoritmos determinam quem é contratado. O risco aqui está nas associações que perpetuam processos discriminatórios que impactam nas desigualdades entre as pessoas. Esse risco vale para a tecnologia também. Empresas como a Amazon aprenderam uma dura lição sobre Inteligência Artificial: a companhia abandonou uma ferramenta de recrutamento por IA após descobrir que o programa era tendencioso contra mulheres. A máquina não estava tomando decisões machistas, ela apenas replicava um modelo de aprendizagem de gestão tal como foi ensinada.
É necessário que as empresas compreendam o objetivo do algoritmo e o processo que ele utiliza. Há um treino de obediência ao algoritmo. Os humanos estão se recriando a sua imagem e semelhança. Às vezes, a IA classifica mal e não pode ser questionada. Esses erros não são sua culpa, ela foi otimizada para a eficiência. Não há algoritmos que definam o que é justo, precisa-se questionar como funcionam para que candidatos não sejam privados de oportunidades importantes
Tem-se uma prática na internet que está aumentando a desigualdade e ela está sendo normalizada. A Inteligência Artificial é ensinada segundo critérios de seleção escolhidos pela empresa como contratações, demissões, candidatos reprovados e semelhança a outros profissionais contratados. Não há problema em usar dados para analisar os perfis de candidatos, mas sem confundir isso com uma verdade objetiva. A tecnologia não é imparcial: os algoritmos são processos matemáticos e são as pessoas que os constroem. A precisão da IA depende, em grande parte, da qualidade dos dados e dos parâmetros codificados nos algoritmos de treinamento. Desse modo, a IA reflete os padrões de pensamento de quem a criou. A aprendizagem de máquina está evoluindo rapidamente, e ainda não se compreende totalmente o que esses dados são capazes de prever. Vive-se ciente de que as pessoas estão sendo vigiadas, e isso muda a forma como os cidadãos pensam e se desenvolvem como humanos. A IA rastreia as pessoas, classifica-as e decide o que merecem. Precisa-se ficar atento a tais algoritmos para que não se propague o viés que tanta gente arrisca a vida para combater.
REFERÊNCIAS BIBLIOGRÁFICAS
O Viés Inconsciente em Machine Learning. Disponível em: <https://peteel.ufsc.br/2020/12/07/vies-inconsciente-machine-learning-2/>. Peteel, ano 2020. Acesso em: 17 Jan. 2022.
O que você precisa saber sobre Algoritmos de IA e Vieses. Disponível em: <https://www.programaria.org/algoritmos–de–inteligencia–artificial–e–viesesuma–reflexao–sobre–etica–e–justica/>. Programaria, ano 2020. Acesso em: 20 Jan. 2022.
Ferramenta de Recrutamento da Amazon com IA discriminava candidatas mulheres. Disponível em: <https://tecnoblog.net/meiobit/391571/ferramenta-de-recrutamento-amazonai-discriminava-mulheres/>. Meiobit, ano 2019. Acesso em: 10 Fev. 2022.
