Publicado originalmente por Wired
Bots que “removem roupas” de imagens têm se espalhado pelo aplicativo de mensagens, permitindo que as pessoas criem imagens deepfake não consensuais, mesmo enquanto legisladores e empresas de tecnologia tentam reprimir isso.
No início de 2020,O especialista em deepfakes Henry Ajder descobriu um dos primeiros bots do Telegram criados para “despir” fotos de mulheres usando inteligência artificial. Na época, Ajder lembra, o bot tinha sido usado para gerar mais de 100.000 fotos explícitas — incluindo as de crianças — e seu desenvolvimento marcou um momento “divisor de águas” para os horrores que os deepfakes poderiam criar. Desde então, os deepfakes se tornaram mais prevalentes, mais prejudiciais e mais fáceis de produzir.
Agora, uma revisão da WIRED sobre comunidades do Telegram envolvidas com conteúdo explícito não consensual identificou pelo menos 50 bots que alegam criar fotos ou vídeos explícitos de pessoas com apenas alguns cliques. Os bots variam em capacidades, com muitos sugerindo que podem “remover roupas” de fotos, enquanto outros alegam criar imagens retratando pessoas em vários atos sexuais.
Os 50 bots listam mais de 4 milhões de “usuários mensais” combinados, de acordo com a revisão da WIRED das estatísticas apresentadas por cada bot. Dois bots listaram mais de 400.000 usuários mensais cada, enquanto outros 14 listaram mais de 100.000 membros cada. As descobertas ilustram o quão difundidas as ferramentas de criação de deepfake explícitas se tornaram e reforçam o lugar do Telegram como um dos locais mais proeminentes onde elas podem ser encontradas. No entanto, o snapshot, que abrange amplamente bots de língua inglesa, é provavelmente uma pequena parte do total de bots deepfake no Telegram.
“Estamos falando de um aumento significativo, de ordens de magnitude, no número de pessoas que estão claramente usando e criando ativamente esse tipo de conteúdo”, diz Ajder sobre os bots do Telegram. “É realmente preocupante que essas ferramentas — que estão realmente arruinando vidas e criando um cenário de pesadelo principalmente para meninas e mulheres — ainda sejam tão fáceis de acessar e encontrar na web superficial, em um dos maiores aplicativos do mundo.”..
Veja o artigo completo no site Wired