Tribunal Supremo de Nuevo México multa a un abogado por usar ChatGPT con testigos inventados en recurso de asesinato
Hecho Qué ha ocurrido
El Tribunal Supremo de Nuevo México multó con 5.000 dólares al abogado Stephen Aarons por presentar un recurso de apelación de un caso de asesinato con testigos y descripciones inventadas por ChatGPT. El tribunal anuló el recurso, designó nueva representación para el cliente Sandoval y remitió el caso al colegio de abogados para investigación disciplinaria. Aarons admitió haber alimentado a ChatGPT con la transcripción del juicio sin verificar posteriormente el contenido generado.
Resumen generado mediante IA a partir de WWWhat's new. Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Es un nuevo caso de sanción judicial por alucinaciones de IA no verificadas en documentos legales, esta vez con consecuencias de mayor gravedad al tratarse de un caso penal de asesinato. Muestra que la ignorancia sobre las alucinaciones de la IA ya no es una defensa aceptable ante los tribunales.
- Quién se ve afectado
- Abogados y despachos que usan IA generativa para redactar escritos legales, y por extensión cualquier profesión que use LLMs para generar documentos basados en hechos.
- Qué puede cambiar
- Refuerza la exigencia de verificación humana y el uso de herramientas legales con RAG en vez de chatbots conversacionales genéricos para tareas que dependen de hechos verificables.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si aumentan las sanciones disciplinarias a abogados por uso de IA sin verificar, y si los colegios de abogados emiten normativas más estrictas sobre el uso de IA generativa en la práctica legal.
Recomendación Qué debería hacer una empresa
Los despachos legales deberían establecer en los próximos 3-6 meses protocolos obligatorios de verificación de fuentes y priorizar herramientas de IA legal basadas en RAG frente a chatbots generalistas.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: WWWhat's new. La referencia es siempre el artículo original.
Ver fuente original ↗LLM OpenAI abogados alucinaciones ChatGPT IA legal Nuevo México
Forma parte de la historia Sanción a abogado en Nuevo México por usar ChatGPT sin verificar en apelación (3 noticias, estado: evolución rápida).
Relacionadas
Corte de Nuevo México multa a abogado por citar testigos falsos generados con IA en apelación de asesinato
El Tribunal Supremo de Nuevo México sancionó al abogado Stephen Aarons con una multa de 5.000 dólares y lo declaró en desacato por incluir testigos fabricados…
Por qué importaEs otro caso que muestra las consecuencias profesionales y legales de usar IA generativa sin verificación en contextos de alto riesgo como el sistema…
Corte Suprema de Nuevo México sanciona a abogado por citar testimonios falsos generados con ChatGPT
La Corte Suprema de Nuevo México declaró en desacato directo a un abogado por presentar un escrito con testimonios falsos de testigos inventados, incluyendo…
Por qué importaEl caso confirma un patrón creciente de sanciones judiciales por uso negligente de IA generativa en documentos legales sin verificación humana, con…
Corte de Nuevo México multa a un abogado por presentar en un juicio datos inventados por ChatGPT
La Corte Suprema de Nuevo México suspendió provisionalmente y multó con 5.000 dólares al abogado Stephen D. Aarons por presentar un recurso judicial elaborado…
Por qué importaEvidencia que el uso descuidado de IA generativa en tareas profesionales de alto riesgo puede tener consecuencias legales y disciplinarias directas…
Abogado en Nuevo México presenta testigos ficticios generados por ChatGPT y recibe multa
El abogado Stephen Aarons usó ChatGPT para preparar un recurso en un caso de asesinato en Nuevo México, y el sistema generó nombres de testigos inexistentes…
Por qué importaConfirma que las alucinaciones de IA generativa siguen produciendo errores graves en entornos de alta responsabilidad profesional como el jurídico…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.