Publicado originalmente por MIT Technology Review
As empresas dizem que querem IA ética. Mas aqueles que trabalham no campo dizem que a ambição vem às suas custas.
“Comecei a ter colapsos regulares”, diz Mitchell, que fundou e co-liderou a equipe de Ethical AI da empresa. “Isso não foi algo que eu já havia experimentado antes.”
As empresas estão sob pressão crescente de reguladores e ativistas para garantir que seus produtos de IA sejam desenvolvidos de forma a mitigar quaisquer danos potenciais antes de serem lançados. Em resposta, eles investiram em equipes que avaliam como nossas vidas, sociedades e sistemas políticos são afetados pela maneira como esses sistemas são projetados, desenvolvidos e implantados.
Empresas de tecnologia como a Meta foram forçadas pelos tribunais a oferecer compensação e suporte extra de saúde mental para funcionários como moderadores de conteúdo, que muitas vezes precisam filtrar conteúdo gráfico e violento que pode ser traumatizante.
Mas as equipes que trabalham com IA responsável geralmente são deixadas por conta própria, disseram funcionários ao MIT Technology Review, embora o trabalho possa ser tão psicologicamente desgastante quanto a moderação de conteúdo. Em última análise, isso pode fazer com que as pessoas dessas equipes se sintam desvalorizadas, o que pode afetar sua saúde mental e levar ao esgotamento.
Rumman Chowdhury, que lidera a equipe de ética, transparência e responsabilidade do aprendizado de máquina do Twitter e é outro pioneiro na ética aplicada à IA, enfrentou esse problema em uma função anterior…
Veja o artigo completo no site MIT Technology Review