Publicado originalmente por TechCrunch
Não surpreendendo literalmente ninguém, a combinação de cheques azuis pagos e IA generativa torna muito fácil espalhar informações erradas. Na manhã de segunda-feira, uma imagem aparentemente gerada por IA de uma explosão no Pentágono circulou pela Internet, embora o evento não tenha realmente acontecido.
Em cerca de meia hora, a imagem apareceu em uma conta verificada do Twitter chamada “Bloomberg Feed”, que poderia ser facilmente confundida com uma conta real afiliada à Bloomberg, especialmente porque tinha um cheque azul. Essa conta já foi suspensa. A rede de notícias controlada pelo estado russo RT também compartilhou a imagem, de acordo com capturas de tela que os usuários capturaram antes de o tweet ser excluído. Várias contas do Twitter com centenas de milhares de seguidores, como DeItaone, OSINTdefender e Whale Chart o compartilharam. Até uma rede de televisão indiana relatou a falsa explosão do Pentágono. Não está imediatamente claro de onde essa imagem falsa e a notícia se originaram.
Esta está longe de ser a primeira vez que uma imagem falsa conseguiu enganar a internet, mas as apostas são maiores quando o evento falso é uma explosão em um prédio do governo dos EUA, em vez do Papa vestindo um casaco Balenciaga. Alguns relataram que a imagem falsa pode estar ligada a um movimento de 25 pontos base do S&P 500, mas a queda não durou muito e não há como provar que foi inteiramente resultado dessa farsa. O incidente levanta a questão de como a IA generativa poderia ser usada para manipular o mercado de ações no futuro – afinal, o Reddit fez isso.
A desinformação é um problema tão antigo quanto a internet, mas o crescimento simultâneo da IA generativa e a mudança no sistema de verificação do Twitter são um terreno especialmente fértil. Desde o início, o plano do proprietário do Twitter, Elon Musk, de remover os cheques azuis existentes de seu status e permitir que qualquer pessoa pague pelo símbolo tem sido uma bagunça .
Mesmo sabendo que os cheques azuis não indicam mais legitimidade, é difícil quebrar um hábito visual que você cultivou por quase 15 anos: se você vir uma conta chamada “Bloomberg Feed” que tem um cheque azul postando sobre um ataque ao Pentágono, você provavelmente está predisposto a pensar que é real. À medida que fica cada vez mais difícil identificar imagens falsas, continuaremos vendo notícias falsas como essa no futuro.
..
Veja o artigo completo no site TechCrunch