Publicado originalmente por Ars Technica
Juiz avalia punição para advogado que não se preocupou em verificar a saída do ChatGPT.
Um advogado está com problemas depois de admitir que usou o ChatGPT para ajudar a escrever processos judiciais que citavam seis casos inexistentes inventados pela ferramenta de inteligência artificial.
O advogado Steven Schwartz, da firma Levidow, Levidow, & Oberman “lamenta muito ter utilizado inteligência artificial generativa para complementar a pesquisa jurídica realizada aqui e nunca o fará no futuro sem verificação absoluta de sua autenticidade”, escreveu Schwartz em uma declaração juramentada em maio 24 sobre as citações falsas apresentadas anteriormente no Tribunal Distrital dos EUA para o Distrito Sul de Nova York.
Schwartz escreveu que “o uso de inteligência artificial generativa evoluiu dentro dos escritórios de advocacia” e que ele “consultou o site de inteligência artificial ChatGPT para complementar a pesquisa jurídica realizada”.
As “citações e opiniões em questão foram fornecidas pelo ChatGPT, que também forneceu sua fonte legal e garantiu a confiabilidade de seu conteúdo”, escreveu ele. Schwartz admitiu que “confiou nas opiniões legais fornecidas a ele por uma fonte que se revelou não confiável” e afirmou que a culpa é dele por não confirmar as fontes fornecidas pelo ChatGPT.
Schwartz não considerou anteriormente a possibilidade de que uma ferramenta de inteligência artificial como o ChatGPT pudesse fornecer informações falsas, embora os erros do chatbot de IA tenham sido amplamente relatados por inteligência não artificial, como os jornalistas humanos empregados por organizações de notícias respeitáveis. A declaração do advogado disse que ele “nunca utilizou o ChatGPT como fonte para conduzir pesquisas legais antes desta ocorrência e, portanto, desconhecia a possibilidade de que seu conteúdo pudesse ser falso”.
O juiz federal Kevin Castel está considerando punições para Schwartz e seus associados. Em um pedido na sexta-feira, Castel agendou uma audiência para 8 de junho, na qual Schwartz, seu colega advogado Peter LoDuca e o escritório de advocacia devem apresentar o motivo pelo qual não devem ser sancionados…
Veja o artigo completo no site Ars Technica