Um não pode virar dez

Imagine enviar o mesmo currículo para quatro empresas diferentes. Você espera quatro decisões, quatro contextos e quatro chances de alguém interpretar sua experiência de um jeito próprio. Mas, se as quatro empresas usam o mesmo fornecedor para filtrar candidatos, talvez você não esteja diante de quatro avaliações independentes. Talvez esteja passando quatro vezes pelo mesmo portão. Um estudo de pesquisadores de Stanford, Chapman University e Northeastern University encontrou evidências de que esse risco já aparece em dados reais de contratação: a mesma lógica automatizada pode transformar uma rejeição em uma sequência de rejeições. A tese tem um nome preciso: monocultura algorítmica. Ela acontece quando muitas organizações terceirizam uma decisão importante para poucos sistemas construídos com métodos, dados e critérios semelhantes. Em uma recomendação de filme, a homogeneidade pode deixar o catálogo menos interessante. Em recrutamento, ela pode impedir que uma pessoa sequer chegue à entrevista. O problema não é usar automação. É confundir uma decisão automatizada compartilhada por todo o mercado com várias opiniões independentes.

O estudo por trás do alerta

Os pesquisadores acompanharam 3,4 milhões de pessoas que enviaram 4 milhões de candidaturas para 1.700 vagas em 150 empregadores e 11 setores. Todas as candidaturas foram avaliadas por uma ferramenta de contratação construída por um único fornecedor ^[1][2]. Isso permite observar algo que uma auditoria interna comum não consegue enxergar: não apenas se um sistema favorece ou prejudica grupos dentro de uma vaga, mas se ele produz o mesmo resultado para a mesma pessoa em empresas diferentes.

Os resultados exigem cuidado, mas não permitem indiferença. Aplicando a regra dos quatro quintos, referência usada nos Estados Unidos para identificar possível impacto discriminatório, o estudo encontrou posições nas quais candidaturas de pessoas negras e asiáticas avançaram em proporções menores. Na análise divulgada pelo Stanford HAI, 26% das candidaturas de pessoas negras e 15% das candidaturas de pessoas asiáticas foram enviadas para posições com esse tipo de impacto adverso ^[1]. O número não significa que toda decisão foi discriminatória, mas mostra que a média geral pode esconder desigualdades dentro de vagas específicas.

Como um não vira dez

O fluxo costuma parecer simples. A pessoa envia a candidatura, o sistema extrai sinais do currículo, gera uma recomendação e devolve ao empregador um rótulo como recomendar ou não recomendar. Se o rótulo negativo encerra a análise humana, a empresa pode nem perceber que delegou a primeira decisão. Agora imagine várias organizações usando o mesmo fornecedor. Um padrão que deveria ser apenas uma entrada na avaliação de uma vaga passa a funcionar como um filtro compartilhado entre empresas.

Na amostra, 10% das pessoas que se candidataram a quatro posições foram rejeitadas em todas elas, uma taxa maior do que a esperada quando cada empresa decide de forma estatisticamente independente ^[1]. O projeto de pesquisa também mostra que, para obter 99,9% de chance de receber ao menos uma recomendação sob esse cenário de dependência, uma pessoa precisaria enviar 25 candidaturas, contra 10 em um cenário de decisões independentes ^[3]. Isso desloca o custo do sistema para o candidato: ele precisa aplicar mais, insistir mais e interpretar o silêncio como falta de qualificação, quando parte do problema está na repetição do filtro.

O que o gestor precisa auditar antes de confiar no filtro:

• Descubra qual fornecedor, modelo ou família de modelos participa da triagem. Não aceite a expressão inteligência artificial como explicação suficiente.
• Meça resultados por vaga, localidade e grupo relevante. Uma média agregada pode esconder impacto adverso em posições específicas [1].
• Compare a recomendação automática com uma amostra revisada por pessoas que não tenham acesso ao rótulo do sistema.
• Procure correlação entre rejeições em processos diferentes. O mesmo candidato está sendo filtrado por critérios realmente distintos ou pelo mesmo padrão reaplicado?
• Defina quando uma pessoa precisa revisar o caso e registre essa revisão. Se o sistema só pode dizer não, ele não é uma triagem, é uma barreira.
• Exija do fornecedor documentação sobre dados, validação, mudanças de versão e métricas de impacto, não apenas uma promessa genérica de eficiência.

Automatizar a primeira triagem pode aumentar a velocidade. Automatizar a mesma lente em todas as empresas pode diminuir a diversidade de oportunidades. O gestor precisa auditar não só o resultado da ferramenta, mas a concentração de dependências por trás dela.

- Gabriel Krüger, Arquiteto de Operações com IA

O problema não termina no fornecedor

É tentador colocar toda a responsabilidade no vendedor da tecnologia. A empresa comprou uma solução, o fornecedor treinou o modelo e o candidato recebeu uma resposta automática. Só que terceirizar a execução não terceiriza a responsabilidade pela decisão. Quem abre uma vaga continua responsável por saber como o filtro funciona, quais limites ele tem e quando a análise humana precisa prevalecer. Um contrato não transforma uma decisão de alto impacto em uma decisão neutra. Também seria um erro concluir que toda triagem automatizada deve ser abandonada. Processos manuais podem ser lentos, inconsistentes e igualmente enviesados. A questão é outra: uma ferramenta usada para ordenar o trabalho não pode virar a única autoridade sobre quem merece ser visto. O desenho mais seguro combina automação para organizar volume, revisão humana para contestar padrões e medição contínua para encontrar efeitos que não aparecem no painel do fornecedor.

A jogada desta semana é pequena: escolha dez currículos rejeitados automaticamente e faça uma revisão humana sem olhar primeiro para a decisão da máquina. Registre quantos casos mereciam entrevista, quais sinais confundiram o sistema e se o padrão se repete por vaga ou por grupo. Esse exercício não prova sozinho que o filtro é justo, mas revela se a empresa está tratando a automação como apoio ou como sentença. Um não pode virar dez quando o mercado compartilha a mesma lente. A governança começa quando alguém decide olhar para o décimo caso, não apenas para o primeiro.