São Francisco, Estados Unidos – Os especialistas em tecnologia de aprendizado de máquinas da Amazon.com descobriram um grande problema: seu novo mecanismo de recrutamento de pessoal não gosta de mulheres.

A equipe vinha criando programas de computador desde 2014 para revisar os currículos dos candidatos a emprego, com o objetivo de automatizar a busca por talentos, disseram à Reuters cinco pessoas familiarizadas com o esforço.

A automação tem sido fundamental para o domínio do comércio eletrônico pela Amazon, seja dentro de armazéns de mercadorias ou direcionando decisões de preços. A ferramenta experimental de contratação da empresa utilizou inteligência artificial para dar aos candidatos a emprego na companhia pontuações que variam de uma a cinco estrelas – da mesma forma que os compradores avaliam produtos na Amazon, contaram algumas pessoas.

“Todo mundo queria esse santo graal”, falou uma das fontes. “Eles literalmente queriam que fosse um motor onde eu lhe daria 100 currículos e ele cuspiria os cinco primeiros e nós os contrataríamos.”

Mas, em 2015, a empresa percebeu que seu novo sistema não classificava candidatos para empregos de desenvolvedores de software e outros cargos técnicos de maneira neutra em termos de gênero.

Isso porque os modelos de computador da Amazon foram treinados para examinar os candidatos observando padrões em currículos enviados à empresa durante um período de 10 anos. A maioria veio de homens, um reflexo do domínio masculino em toda a indústria de tecnologia.

Como consequência, o sistema da Amazon ensinou para si mesmo que candidatos do sexo masculino eram preferíveis. O sistema penalizou currículos que incluíam a palavra “mulheres”, como em “capitã do clube de xadrez de mulheres”. E rebaixou os formados em duas instituições de ensino apenas para mulheres, de acordo com pessoas familiarizadas com o assunto.

A Amazon modificou os programas para torná-los neutros para esses termos específicos. Mas isso não impediu as máquinas de criarem outras maneiras discriminatórias de classificar candidatos, apontaram as fontes.

A empresa de Seattle acabou com a equipe no início do ano passado, porque os executivos perderam a esperança no projeto, segundo as pessoas, que falaram sob condição de anonimato. Os recrutadores da Amazon analisaram as recomendações geradas pela ferramenta ao procurar novas contratações, mas nunca confiaram apenas nesses rankings, afirmaram eles.

A Amazon se recusou a comentar sobre o mecanismo de recrutamento ou seus problemas, mas a empresa afirma estar comprometida com a diversidade e a igualdade no local de trabalho.

Estudo de caso – A experiência da empresa oferece um estudo de caso sobre as limitações da tecnologia de aprendizado de máquina. Ela também serve como uma lição para a lista crescente de grandes empresas, incluindo Hilton Worldwide Holdings e o Goldman Sachs Group, que estão olhando para a automação de partes do processo de contratação de pessoal.

Cerca de 55% dos gerentes de recursos humanos norte-americanos disseram que a inteligência artificial será uma parte regular de seu trabalho nos próximos cinco anos, de acordo com uma pesquisa de 2017 da empresa de software de talentos CareerBuilder.

Há muito tempo que os empregadores sonham em aproveitar a tecnologia para ampliar a rede de contratação e reduzir a dependência nas opiniões subjetivas dos recrutadores humanos. Mas cientistas da computação, como Nihar Shah, que ensina aprendizado de máquina na Universidade Carnegie Mellon, reforçam que ainda há muito trabalho a fazer.

“Como garantir que o algoritmo é justo, como ter certeza de que o algoritmo é realmente interpretável e explicável – isso ainda está muito longe”, lamentou ele. (Reuters)