Publicado originalmente por The Washington Post
A falta de moderação e uma enxurrada de contas em busca de influência transformaram a plataforma no ‘4chan 2’
Quando cartazes em fóruns de pornografia gerada por IA começaram a circular vídeos deepfake da comediante Bobbi Althoff, os clipes alcançaram um público relativamente silencioso, obtendo 178 mil visualizações nos últimos seis meses.
Então alguém postou um dos vídeos no X. O fake, que parecia mostrar o jovem de 26 anos nu e se masturbando, foi copiado e repostado tantas vezes que o nome de Althoff virou tendência na plataforma. Em apenas nove horas, o clipe recebeu mais de 4,5 milhões de visualizações – 25 vezes a audiência dos sites pornográficos, segundo dados de um analista do setor.
Mas sob o comando do proprietário Elon Musk, o X se tornou um dos canais de distribuição mais poderosos e proeminentes de pornografia deepfake não consensual. A plataforma não apenas ajuda as fotos e vídeos falsos a se tornarem virais em um ambiente de baixa moderação, mas também pode acabar recompensando espalhadores de deepfake que podem usar a pornografia manipulada para ganhar dinheiro.
“O Twitter é 4chan 2”, disse Genevieve Oh, analista que estuda deepfakes, referindo-se ao nocivo quadro de mensagens sem regras que é conhecido por hospedar não apenas pornografia deepfake, mas também memes anti-semitas e tributos a atiradores em massa. “Isso está encorajando futuras figuras maliciosas a se coordenarem para humilhar mulheres mais populares com filmagens e imagens sintéticas”, disse ela.
Não existe uma lei federal que regule os deepfakes, embora alguns estados, como a Geórgia e a Virgínia, proíbam a pornografia não consensual gerada por IA…
Veja o artigo completo no site The Washington Post