Citar acórdãos de uma IA sem verificar se existem
O modelo inventa um caso, uma citação e uma transcrição, e apresenta os três com a mesma calma confiança que usa para os verdadeiros.
Isto nao e aconselhamento juridico. A Sally critica comportamentos e casos de uso em geral, nunca a tua situacao especifica, e nada aqui substitui um advogado a serio. Os casos sao reais; o que fazes com eles e entre ti e alguem habilitado a dizer-te.
Apresentar uma peça com citações de acórdãos produzidas por um chatbot, sem confirmar de forma independente que cada caso é real.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
Dois advogados apresentaram uma peça citando seis decisões totalmente inventadas geradas pelo ChatGPT e depois insistiram quando o tribunal não as conseguiu encontrar.
O juiz Castel concluiu existir má-fé subjetiva e aplicou 5.000 dólares de sanções ao abrigo da Regra 11 aos advogados e à firma, e ordenou que notificassem os verdadeiros juízes falsamente indicados como autores.
Esta é a fábula fundadora de todo o género. Advogados apresentaram uma peça citando seis decisões totalmente inventadas por um chatbot, completas com transcrições falsas e juízes falsos. Perguntar ao chatbot "isto é real?" e ouvir "sim" não é verificação. É a mesma máquina a mentir-lhe duas vezes.
Uma IA otimiza para texto que parece uma citação, não para uma citação que existe. Um número de repositório perfeitamente formatado, com um nome de caso plausível, é a coisa mais fácil do mundo para ela gerar e a mais difícil para uma pessoa atarefada duvidar.
“Você perguntou à máquina se os casos inventados eram reais, ela disse que sim, e de alguma forma foi esse o momento em que você deixou de verificar.”
- 01Vá buscar cada caso a uma base de dados jurídica real e leia-o antes que ele chegue perto de uma peça.
- 02Use a IA para sugerir termos de pesquisa e ângulos, não para fornecer autoridade que você vai assinar.
- 03Se não encontra o caso num repositório, ele não existe. Trate isso como regra, não como exceção.
Nao e aconselhamento juridico. Comentario geral sobre um caso de uso, nao sobre a tua situacao. Fala com um advogado a serio antes de agires.