Publicado originalmente por The Guardian
“Muito assustador”, foi o primeiro pensamento de April quando viu seu rosto em um site generativo de IA.
April é metade dos gêmeos Maddison. Ela e sua irmã Amelia criam conteúdo para OnlyFans, Instagram e outras plataformas, mas também existiam como um modelo de IA generativo personalizado – feito sem o consentimento delas.
“Foi muito estranho ver nossos rostos, mas não nossos rostos”, diz ela. “É realmente perturbador.”
Deepfakes – a criação de imagens, vídeos e áudio realistas, mas falsos, usando inteligência artificial – está na agenda política depois que o governo federal anunciou na semana passada que iria introduzir legislação para proibir a criação e compartilhamento de pornografia deepfake como parte de medidas para combater a violência contra mulheres.
“ material sexualmente explícito usando tecnologia como inteligência artificial estará sujeito a graves penalidades criminais”, disse o primeiro-ministro, Anthony Albanese, em entrevista coletiva.
O modelo de IA de April e Amelia estava em um site chamado CivitAI, que permite o upload de modelos de imagens de IA de código aberto com base em um gerador conhecido como Difusão Estável. O modelo baseado nos gêmeos estava claramente identificado com seus nomes e indicava que foi treinado em mais de 900 imagens. Qualquer um poderia então baixar o programa e gerar imagens parecidas com April e Amelia…
Veja o artigo completo no site The Guardian