Tribunal Supremo de Nuevo México multa a un abogado por usar ChatGPT con testigos inventados en recurso de asesinato
Hecho Qué ha ocurrido
El Tribunal Supremo de Nuevo México multó con 5.000 dólares al abogado Stephen Aarons por presentar un recurso de apelación de un caso de asesinato con testigos y descripciones inventadas por ChatGPT. El tribunal anuló el recurso, designó nueva representación para el cliente Sandoval y remitió el caso al colegio de abogados para investigación disciplinaria. Aarons admitió haber alimentado a ChatGPT con la transcripción del juicio sin verificar posteriormente el contenido generado.
Resumen generado mediante IA a partir de WWWhat's new. Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Es un nuevo caso de sanción judicial por alucinaciones de IA no verificadas en documentos legales, esta vez con consecuencias de mayor gravedad al tratarse de un caso penal de asesinato. Muestra que la ignorancia sobre las alucinaciones de la IA ya no es una defensa aceptable ante los tribunales.
- Quién se ve afectado
- Abogados y despachos que usan IA generativa para redactar escritos legales, y por extensión cualquier profesión que use LLMs para generar documentos basados en hechos.
- Qué puede cambiar
- Refuerza la exigencia de verificación humana y el uso de herramientas legales con RAG en vez de chatbots conversacionales genéricos para tareas que dependen de hechos verificables.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si aumentan las sanciones disciplinarias a abogados por uso de IA sin verificar, y si los colegios de abogados emiten normativas más estrictas sobre el uso de IA generativa en la práctica legal.
Recomendación Qué debería hacer una empresa
Los despachos legales deberían establecer en los próximos 3-6 meses protocolos obligatorios de verificación de fuentes y priorizar herramientas de IA legal basadas en RAG frente a chatbots generalistas.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: WWWhat's new. La referencia es siempre el artículo original.
Ver fuente original ↗LLM OpenAI abogadosalucinacionesChatGPTIA legalNuevo México
Forma parte de la historia Sanción a abogado en Nuevo México por usar ChatGPT sin verificar en apelación (3 noticias, estado: evolución rápida).
Tu opinión
0 comentarios
Relacionadas
Corte de Nuevo México multa a abogado por citar testigos falsos generados con IA en apelación de asesinato
El Tribunal Supremo de Nuevo México sancionó al abogado Stephen Aarons con una multa de 5.000 dólares y lo declaró en desacato por incluir testigos fabricados…
Por qué importaEs otro caso que muestra las consecuencias profesionales y legales de usar IA generativa sin verificación en contextos de alto riesgo como el sistema…
Corte Suprema de Nuevo México sanciona a abogado por citar testimonios falsos generados con ChatGPT
La Corte Suprema de Nuevo México declaró en desacato directo a un abogado por presentar un escrito con testimonios falsos de testigos inventados, incluyendo…
Por qué importaEl caso confirma un patrón creciente de sanciones judiciales por uso negligente de IA generativa en documentos legales sin verificación humana, con…
El CEO de Anthropic pide reducir el ritmo de mejora de capacidades de los modelos de IA
Dario Amodei, CEO y cofundador de Anthropic, publicó una entrada de blog el sábado pidiendo a las empresas de IA que avancen más lento y con más cautela…
Por qué importaEs una declaración pública de uno de los líderes de la industria que contrasta con la carrera competitiva actual entre labs, lo que puede influir en…
Más de 3.000 matemáticos firman un manifiesto contra el uso de IA en investigación matemática por OpenAI
25 medallistas Fields, incluidos Terence Tao, Cédric Villani y Simon Donaldson, encabezan un manifiesto firmado por más de 3.000 matemáticos que critica el uso…
Por qué importaEl caso expone tensiones crecientes entre la velocidad de publicación de resultados por IA y los estándares académicos de verificación y atribución…