Publicado originalmente por Wired
Os algoritmos podem exacerbar a discriminação no emprego. É hora de a Comissão Federal de Comércio dos EUA regulá-los.
No início deste mês, Lina Khan, presidente da Federal Trade Commission (FTC) dos EUA, escreveu um ensaio no The New York Times afirmando o compromisso da agência com a regulamentação da IA. Mas havia um aplicativo de IA que Khan não mencionou e que a FTC precisa regular com urgência: sistemas de contratação automatizados. Eles variam em complexidade, desde ferramentas que apenas analisam currículos e os classificam até sistemas que dão luz verde a candidatos e rejeitam candidatos considerados inaptos. Cada vez mais, os trabalhadores americanos são obrigados a usá-los se quiserem ser contratados.
Ironicamente, muitos desses sistemas são comercializados como isentos de preconceitos ou garantidos para reduzir a probabilidade de contratação discriminatória. Mas, por serem regulamentados de maneira tão vaga, tais sistemas negam oportunidades iguais de emprego com base em categorias protegidas, como raça, idade, sexo e deficiência. Em dezembro de 2022, por exemplo, um sindicato de caminhoneiras processou a Meta, alegando que o Facebook “mostra seletivamente anúncios de emprego com base no gênero e idade dos usuários, com trabalhadores mais velhos muito menos propensos a ver anúncios e mulheres muito menos propensos a ver anúncios para cargos de colarinho azul, especialmente em setores que historicamente excluem as mulheres”. Isso é enganoso. Ainda mais, é injusto para candidatos a emprego e empregadores. Os empregadores compram sistemas automatizados de contratação para reduzir sua responsabilidade por discriminação no emprego, e os fornecedores desses sistemas são legalmente obrigados a comprovar suas alegações de eficácia e justiça.
A lei coloca os sistemas de contratação automatizados sob a alçada da FTC, mas a agência ainda não divulgou diretrizes específicas sobre como os fornecedores desses sistemas devem anunciar seus produtos. Deve começar exigindo auditoria para garantir que as plataformas de contratação automatizadas cumpram as promessas que fazem aos empregadores. Os fornecedores dessas plataformas devem ser obrigados a fornecer registros claros de auditorias demonstrando que seus sistemas reduzem o viés na tomada de decisões de emprego conforme anunciado. Essas auditorias devem ser capazes de mostrar que os designers seguiram as diretrizes da Equal Employment Opportunity Commission (EEOC) ao criar as plataformas…
Veja o artigo completo no site Wired