Publicado originalmente por Wired
Qual é a diferença moral entre se entregar a uma fantasia sexual sobre alguém e assistir a um deepfake dessa pessoa?
10 de abril foi um dia muito ruim na vida do jogador de celebridades e YouTuber Atrioc (Brandon Ewing). Ewing estava transmitindo uma de suas transmissões ao vivo habituais do Twitch quando a janela do navegador foi acidentalmente exposta ao público. Durante esses poucos momentos, os espectadores de repente ficaram cara a cara com o que pareciam ser vídeos pornográficos deepfake com mulheres do YouTube e gamers QTCinderella e Pokimane – colegas e, pelo que entendi, amigos de Ewing. Momentos depois, um espectador perspicaz carregou uma captura de tela da cena no Reddit e, portanto, o escândalo era um fato.
Deepfakes referem-se amplamente à mídia adulterada por IA, geralmente para sobrepor o rosto de uma pessoa ao de, digamos, um ator em um filme ou videoclipe. Mas, infelizmente, conforme relatado pela vice-jornalista Samantha Cole, sua função principal tem sido criar pornô estrelado por celebridades femininas e, talvez mais alarmante, visualizar fantasias sexuais de amigos ou conhecidos. Dada a sua crescente sofisticação e disponibilidade, qualquer pessoa com uma foto do seu rosto agora pode basicamente transformá-la em um filme pornô. “Estamos todos fodidos”, como Cole coloca concisamente.
Para a maioria das pessoas, acredito, é óbvio que Ewing cometeu algum tipo de má conduta ao consumir a pornografia fictícia, mas não consensual, de seus amigos. De fato, os comentários no Reddit e as fortes (justificadas) reações das mulheres cujos rostos foram usados nos clipes testemunham um profundo sentimento de repulsa. Isso é compreensível, mas especificar exatamente onde está o crime é uma tarefa surpreendentemente difícil. Na verdade, a tarefa de fazê-lo traz à tona um problema filosófico que nos obriga a reconsiderar não apenas a pornografia, mas a própria natureza da imaginação humana. Eu chamo isso de dilema do pervertido.
Por um lado, pode-se argumentar que, ao consumir o material, Ewing estava incentivando sua produção e disseminação, o que, no final das contas, pode prejudicar a reputação e o bem-estar de suas colegas jogadoras. Mas duvido que o veredicto aos olhos do público teria sido muito mais brando se ele tivesse produzido os vídeos de próprio punho para prazer pessoal. E poucas pessoas veem sua falha em fechar a guia como o principal problema. Ou seja, o crime parece estar no próprio consumo dos deepfakes, não nos efeitos a jusante de fazê-lo. Consumir deepfakes é errado, ponto final, independentemente de as pessoas “protagonizarem” os clipes, ou qualquer outra pessoa, descobrirem isso…
Veja o artigo completo no site Wired