Citar casos de una IA sin comprobar que existen
El modelo se inventara un caso, una cita y una sentencia, y presentara los tres con la misma calma con la que presenta los reales.
Esto no es asesoramiento legal. Sally critica comportamientos y casos de uso en general, nunca tu situacion concreta, y nada de esto sustituye a un abogado de verdad. Los casos son reales; lo que hagas al respecto es asunto tuyo y de alguien con licencia para decirtelo.
Presentar un escrito con citas de jurisprudencia que produjo un chatbot, sin confirmar de forma independiente que cada caso es real.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
Dos abogados presentaron un escrito citando seis decisiones totalmente inventadas y generadas por ChatGPT, y luego se reafirmaron cuando el tribunal no pudo encontrarlas.
El juez Castel apreciio mala fe subjetiva e impuso 5.000 dolares en sanciones bajo la Regla 11 a los abogados y su despacho, y les ordeno notificar a los jueces reales falsamente nombrados como autores.
Esta es la fabula fundacional de todo el genero. Unos abogados presentaron un escrito citando seis decisiones totalmente inventadas que produjo un chatbot, con citas falsas y jueces falsos incluidos. Preguntarle al chatbot "son reales?" y que te diga "si" no es verificacion. Es la misma maquina mintiendote dos veces.
Una IA optimiza para texto que parece una cita, no para una cita que existe. Un numero de repertorio perfectamente formateado con un nombre de caso plausible es lo mas facil del mundo de generar y lo mas dificil de poner en duda para una persona ocupada.
“Le preguntaste a la maquina si sus casos inventados eran reales, te dijo que si, y de algun modo ese fue el momento en que dejaste de comprobar.”
- 01Saca cada uno de los casos en una base de datos juridica de verdad y leelo antes de que se acerque a un escrito.
- 02Usa la IA para sugerir terminos de busqueda y enfoques, no para suministrar autoridad que vas a firmar con tu nombre.
- 03Si no encuentras el caso en un repertorio, no existe. Trata eso como lo predeterminado, no como la excepcion.
Esto no es asesoramiento legal. Comentario general sobre un caso de uso, no sobre tu situacion. Habla con un abogado de verdad antes de actuar.