Publicado originalmente por Wired
O Character.AI permite que os usuários criem bots semelhantes a qualquer pessoa, sem exigir seu consentimento.
Filha de Drew Crecentemorreu em 2006, morta por um ex-namorado em Austin, Texas, quando tinha apenas 18 anos. Seu assassinato foi amplamente divulgado — tanto que Drew ainda via ocasionalmente alertas do Google para seu nome, Jennifer Ann Crecente.
O alerta que Drew recebeu algumas semanas atrás não era o mesmo que os outros. Era para um chatbot de IA, criado à imagem e semelhança de Jennifer, na plataforma animada, apoiada pelo Google, Character.AI.
A presença de Jennifer na internet, Drew Crecente descobriu, tinha sido usada para criar um “personagem de IA amigável” que se passava, falsamente, por um “jornalista de videogame”. Qualquer usuário do aplicativo poderia conversar com “Jennifer”, apesar do fato de que ninguém tinha dado consentimento para isso. O irmão de Drew, Brian Crecente, que por acaso é fundador dos sites de notícias sobre jogos Polygon e Kotaku, sinalizou o bot Character.AI em sua conta do Twitter e o chamou de “ nojento pra caralho ”.
A Character.AI, que levantou mais de US$ 150 milhões em financiamento e recentemente licenciou parte de sua tecnologia principal e talentos de ponta para o Google, deletou o avatar de Jennifer. Ela reconheceu que a criação do chatbot violava suas políticas…
Veja o artigo completo no site Wired