Publicado originalmente por The Guardian
A última edição do chatbot de IA de Elon Musk, Grok, estreou na quarta-feira uma nova ferramenta de geração de imagens que não possuía a maioria das proteções de segurança que se tornaram padrão na indústria de inteligência artificial. O novo recurso de Grok, que atualmente está limitado a assinantes pagos do X, levou a uma enxurrada de imagens bizarras e ofensivas de figuras políticas e celebridades geradas por IA na rede social anteriormente conhecida como Twitter.
O gerador de imagens pode produzir uma variedade de imagens que ferramentas de IA semelhantes, como o ChatGPT da OpenAI, bloquearam por violar regras sobre desinformação e abuso. Nas instruções e imagens analisadas pelo Guardian, a produção de Grok incluía representações de Donald Trump pilotando um avião contra os edifícios do World Trade Center e do profeta Maomé segurando uma bomba, bem como representações de Taylor Swift, Kamala Harris e Alexandria Ocasio-Cortez em lingerie. – todas as mulheres que já são alvos frequentes de assédio online. O ChatGPT, por outro lado, rejeita tais solicitações de imagens, citando termos de serviço que proíbem representações de violência no mundo real, desrespeito a figuras religiosas e conteúdo explícito.
O gerador de imagens de Grok também não recusa solicitações que envolvam caracteres protegidos por direitos autorais, como fazem a maioria dos outros visualizadores de IA, incluindo ChatGPT. Grok produziu imagens do Mickey Mouse saudando Adolf Hitler e o Pato Donald usando heroína, por exemplo. A Disney não retornou um pedido de comentário.
Musk pareceu deleitar-se com as imagens não regulamentadas de IA de Grok na quarta-feira, twittando: “Grok é a IA mais divertida do mundo!”
A maioria dos principais geradores de imagens de IA têm políticas bastante rigorosas sobre o que irão gerar após um período inicial de oeste selvagem com poucas regras, embora os usuários frequentemente tentem encontrar soluções alternativas para essas salvaguardas. Estas ferramentas mais estabelecidas geralmente proíbem a criação de imagens políticas e sexualizadas com pessoas reais – a OpenAI afirma, por exemplo, que irá “recusar pedidos que perguntem pelo nome de uma figura pública”.
Grok parece ter algumas proibições sobre quais imagens irá gerar, respondendo “infelizmente não consigo gerar esse tipo de imagem” quando solicitado a fornecer imagens totalmente nuas. X tem uma política sobre nudez não consensual desde 2021, quando a empresa ainda era o Twitter e não estava sob propriedade de Musk, que proíbe o compartilhamento de conteúdo explícito produzido sem o consentimento do sujeito e inclui a imposição digital de rostos de pessoas em corpos nus. Muitas das políticas do X tiveram uma aplicação mais frouxa desde que Musk assumiu o controle da plataforma…
Veja o artigo completo no site The Guardian