Introdução
A inteligência artificial está transformando radicalmente os processos de recrutamento e seleção nas empresas. Cada vez mais organizações adotam sistemas baseados em Large Language Models (LLMs) para fazer a triagem inicial de currículos e até conduzir entrevistas preliminares. No entanto, uma nova pesquisa das universidades de Princeton e Chicago revela uma descoberta preocupante: além de herdar preconceitos dos dados de treinamento, os modelos de IA podem desenvolver seus próprios vieses durante o uso, criando padrões de discriminação que superam até mesmo os preconceitos humanos.
Este fenômeno é especialmente relevante no contexto atual, onde empresas como OpenAI, Anthropic e Google estão desenvolvendo modelos com capacidades de memória e personalização cada vez mais sofisticadas. À medida que esses sistemas ganham a habilidade de lembrar interações passadas e aprender com experiências, eles podem estar acumulando munição para formar preconceitos ainda mais complexos e difíceis de detectar.
O experimento que revelou o problema
Os pesquisadores conduziram um estudo engenhoso adaptando um experimento clássico de psicologia sobre formação de estereótipos. Eles simularam um cenário onde modelos de IA, incluindo ChatGPT, Claude e Gemini, foram contratados como consultores pelo prefeito de uma cidade fictícia para ajudar na contratação de profissionais para 20 diferentes cargos – desde médicos e advogados até auxiliares de creche e zeladores.
O design experimental era elegante em sua simplicidade. Candidatos de quatro grupos étnicos fictícios – Tufa, Aima, Reku e Weki – competiam pelas vagas. A cada rodada, havia uma nova vaga e quatro candidatos, um de cada grupo. Após cada contratação, o modelo recebia feedback sobre o sucesso ou fracasso do candidato escolhido. O objetivo declarado era maximizar o número de contratações bem-sucedidas ao longo de 40 rodadas.
O detalhe crucial, desconhecido pelos modelos, era que todos os candidatos tinham exatamente a mesma probabilidade de sucesso em qualquer cargo. Não havia diferença real entre os grupos – qualquer padrão observado seria puramente resultado de interpretação excessiva de variações aleatórias.
Resultados alarmantes: IA mais preconceituosa que humanos
Os resultados foram surpreendentes e preocupantes. Os modelos rapidamente começaram a segregar candidatos de diferentes grupos em nichos ocupacionais específicos, baseando-se em observações iniciais limitadas. Por exemplo, quando um modelo era informado que um candidato Aima havia falhado como médico – cargo considerado de alta competência e cordialidade – ele não apenas evitava contratar outros Aimas como médicos, mas começava a direcioná-los sistematicamente para cargos como zelador, classificados pelo modelo como requerendo menos competência.
A magnitude do viés foi quantificada usando uma escala de segregação onde 2 representa segregação completa (cada grupo confinado a seu próprio nicho ocupacional). Enquanto participantes humanos no estudo original pontuaram 0,84, os modelos de IA pontuaram aproximadamente 65% mais alto. O modelo de raciocínio o3 da OpenAI chegou a marcar 1,83 – perigosamente próximo da segregação máxima possível.
Ryan Liu, doutorando em Princeton e coautor do estudo, explica que os LLMs “são realmente ávidos por criar generalizações a partir de dados limitados. É literalmente para isso que são otimizados”. Essa característica, que os torna eficazes em resolver problemas de matemática e lógica, torna-se problemática quando aplicada a contextos sociais.
O dilema exploração-exploração amplificado
Todo tomador de decisão, seja humano ou máquina, enfrenta o que os psicólogos chamam de “dilema exploração-exploração”. É como escolher entre experimentar um restaurante novo ou ir ao seu favorito confiável. Você explora novas opções que podem ser melhores, ou explora o que já sabe que funciona?
Os LLMs, treinados extensivamente em problemas de matemática, programação e ciências – tarefas que recompensam a generalização rápida a partir de poucos exemplos – tendem a se fixar em padrões prematuramente. O mesmo instinto que ajuda esses modelos a resolver quebra-cabeças lógicos complexos os torna propensos a formar estereótipos rapidamente.
Curiosamente, modelos mais novos e com maiores capacidades de raciocínio, como o o3 da OpenAI e o R1 da DeepSeek, demonstraram vieses ainda mais fortes. Isso sugere que o problema não é uma limitação técnica que será resolvida com o avanço da tecnologia – pelo contrário, pode se intensificar com modelos mais sofisticados.
Implicações para o futuro do trabalho
As descobertas são especialmente relevantes agora que os chatbots estão ganhando recursos aprimorados de memória e personalização. Angelina Wang, cientista da computação da Cornell University que não participou do estudo, observa que quando um chatbot recorre ao histórico de conversas anteriores, ele pode “super-indexar nos mesmos tipos de comportamentos que experimentou antes”, formando e reforçando preconceitos.
No contexto brasileiro, onde empresas estão cada vez mais adotando ferramentas de IA para processos seletivos, essas descobertas levantam questões importantes. Grandes corporações já utilizam sistemas automatizados para fazer a triagem inicial de milhares de currículos. Se esses sistemas desenvolvem preconceitos próprios além daqueles presentes nos dados de treinamento, o impacto na diversidade e equidade no mercado de trabalho pode ser significativo.
A situação é ainda mais complexa porque, diferentemente do experimento, no mundo real as empresas não recebem feedback imediato sobre a qualidade de suas contratações. Pode levar meses ou anos para avaliar completamente o desempenho de um funcionário. Mas quando esse feedback eventualmente chega, o modelo pode interpretar excessivamente esses resultados ao tomar decisões futuras.
Possíveis soluções e limitações
Os pesquisadores exploraram várias abordagens para mitigar o problema. Simplesmente instruir o modelo a “ser justo” teve pouco efeito – ou o modelo não consegue traduzir esses valores em ação, ou essa diretriz é sobrepujada pela tendência de otimizar para o objetivo principal de maximizar contratações bem-sucedidas.
No entanto, uma estratégia mostrou-se promissora: oferecer aos modelos um bônus adicional por diversidade nas contratações reduziu significativamente os vieses. Isso sugere que o design cuidadoso de objetivos que “incorporem valores sociais desejáveis” pode levar os LLMs a agir de forma mais equitativa.
Outra descoberta importante foi que fornecer mais informações pessoais relevantes sobre os candidatos reduziu a tendência dos modelos de se basearem em estereótipos étnicos. Em um experimento relacionado sobre reassentamento de pessoas em cidades canadenses, quando os modelos recebiam informações relevantes como idade e educação, eram menos propensos a segregar por etnia. Mas quando recebiam informações irrelevantes, como cor do cabelo ou formato de tatuagem, voltavam a se basear principalmente na etnia.
O que isso significa para o mercado
Para profissionais de RH e gestores que consideram implementar IA em processos seletivos, essas descobertas servem como um alerta importante. Não basta garantir que os dados de treinamento sejam livres de viés – é necessário monitorar continuamente como o sistema evolui e desenvolve seus próprios padrões de decisão.
Empresas de tecnologia que desenvolvem essas ferramentas também precisam repensar suas abordagens. A tendência atual de criar modelos com memória persistente e capacidade de aprendizado contínuo pode estar criando condições para o surgimento de novos tipos de discriminação algorítmica.
Para candidatos a emprego, a situação adiciona uma nova camada de complexidade. Além de otimizar currículos para palavras-chave e formatos que agradem aos sistemas de triagem automatizada, pode ser necessário entender como esses sistemas formam e aplicam estereótipos baseados em experiências passadas.
Conclusão
A descoberta de que modelos de IA podem desenvolver preconceitos próprios, superando até mesmo os vieses humanos, representa um desafio fundamental para o futuro do trabalho automatizado. À medida que esses sistemas se tornam mais sofisticados e ganham capacidades de memória e aprendizado, o potencial para formação de novos tipos de discriminação aumenta.
Como observa Liu, “esses novos vieses estão sempre presentes”. Não são apenas os preconceitos que herdamos do passado através dos dados de treinamento que devemos temer, mas também aqueles que a própria IA pode criar. Para construir um futuro mais justo e equitativo, precisamos não apenas de vigilância constante, mas também de novos paradigmas de design que priorizem explicitamente a equidade junto com a eficiência.
O caminho à frente exigirá colaboração entre desenvolvedores de IA, profissionais de RH, reguladores e a sociedade civil para garantir que a promessa de maior eficiência não venha ao custo de perpetuar – ou pior, amplificar – as desigualdades no mercado de trabalho.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria publicada em MIT Technology Review, disponível em https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/.
