Publicado originalmente por The Verge
A OpenAI fechou uma ferramenta que deveria diferenciar a escrita humana da IA devido a uma baixa taxa de precisão. Em um blog (atualizado), a OpenAI disse que decidiu encerrar seu classificador de IA a partir de 20 de julho. “Estamos trabalhando para incorporar o feedback e atualmente pesquisando técnicas de proveniência mais eficazes para o texto”, disse a empresa.
Ao desligar a ferramenta para capturar a escrita gerada por IA, a OpenAI disse que planeja “desenvolver e implantar mecanismos que permitam aos usuários entender se o conteúdo de áudio ou visual é gerado por IA”. Não há nenhuma palavra ainda sobre o que esses mecanismos podem ser, no entanto.
A OpenAI admitiu totalmente que o classificador nunca foi muito bom em capturar texto gerado por IA e alertou que poderia cuspir falsos positivos, também conhecidos como texto escrito por humanos marcado como gerado por IA. A OpenAI, antes de adicionar sua atualização desligando a ferramenta, disse que o classificador poderia melhorar com mais dados.
Depois que o ChatGPT da OpenAI entrou em cena e se tornou um dos aplicativos de crescimento mais rápido de todos os tempos, as pessoas se esforçaram para entender a tecnologia. Vários setores alertaram sobre o texto e a arte gerados por IA, principalmente os educadores que temiam que os alunos não estudassem mais e deixassem o ChatGPT fazer o dever de casa. As escolas de Nova York até proibiram o acesso ao ChatGPT nas dependências da escola em meio a preocupações sobre precisão, segurança e trapaça…
Veja o artigo completo no site The Verge