Publicado originalmente por Wired
O unicórnio britânico Synthesia oferece aos clientes um menu de avatares digitais, desde executivos de terno até Papai Noel. Mas tem lutado para impedir que sejam usados para espalhar desinformação.
Érica está ligada ao YouTube, detalhando quanto custa contratar um advogado de divórcio no estado de Massachusetts. Dr. Dass está vendendo seguro médico privado no Reino Unido. Mas Jason está no Facebook espalhando desinformação sobre o relacionamento da França com sua ex-colônia, Mali. E Gary foi pego se passando por um CEO como parte de um elaborado golpe de criptografia.
Essas pessoas não são reais. Ou pelo menos, não realmente. Eles são deepfakes, soltos na selva por Victor Riparbelli, CEO da Synthesia. A empresa de IA generativa com sede em Londres tem cerca de 150 desses humanos digitais para contratar. Tudo o que os clientes da Synthesia precisam fazer para obter esse elenco brilhante para ler seus roteiros é digitar o texto que desejam dar vida e pressionar “gerar”.
A visão de Riparbelli para esses avatares é que eles funcionem como uma alternativa brilhante ao Microsoft PowerPoint, realizando treinamento corporativo e dando um toque especial aos manuais da empresa. Mas os deepfakes da Synthesia encontraram um apelo além do mundo corporativo; eles chamaram a atenção de usuários mais controversos, que colocaram os avatares para trabalhar, espalhando desinformação ou golpes de criptografia em vários continentes.
“Estamos fazendo muito. Não vamos alegar que somos perfeitos”, diz Riparbelli. “É um trabalho que está em constante evolução.”..
Veja o artigo completo no site Wired