Anthropic publica la constitución de Claude, documento de 35.000 tokens sobre valores del modelo
Hecho Qué ha ocurrido
Anthropic ha publicado oficialmente bajo licencia CC0 el documento de "constitución" que guía el entrenamiento de Claude Opus 4.5, un archivo de más de 35.000 tokens que describe los valores centrales del modelo. El documento fue inicialmente descubierto como una "fuga" por Richard Weiss, quien logró que el modelo lo regurgitara durante las pruebas, y Amanda Askell de Anthropic confirmó que formaba parte de los procedimientos de entrenamiento. El documento incluye reconocimientos de quince contribuyentes externos, entre ellos dos miembros del clero católico con formación en ética y tecnología.
Resumen generado mediante IA a partir de Simon Willison (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
La publicación de este documento abre una ventana sin precedentes sobre cómo se define y codifica la alineación de un modelo LLM de nivel empresarial, estableciendo un nuevo estándar de transparencia en la industria. Para directivos y equipos de IA, comprende cómo un laboratorio líder estructura los valores del modelo es esencial para evaluar confiabilidad, sesgos e integración en procesos críticos.
- Quién se ve afectado
- Equipos de IA, directivos de transformación digital, responsables de cumplimiento normativo y empresas que despliegan Claude en entornos sensibles (legal, finanzas, salud).
- Qué puede cambiar
- La disponibilidad de este documento puede servir como referencia para auditorías de IA, evaluación de alineación en modelos competidores, y presión sobre otros laboratorios para publicar sus propias constituciones. Permite a usuarios y auditores externos comprender mejor qué comportamientos y valores están baked in en el modelo.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Reacciones de OpenAI, Google DeepMind y otros laboratorios ante la divulgación; adopción de esta práctica de transparencia en la industria; impacto en regulaciones de IA que demanden documentación de valores; análisis académico y críticas sobre la inclusión de perspectives religiosas en la gobernanza técnica de modelos.
Recomendación Qué debería hacer una empresa
Equipos que utilizan Claude en producción deberían revisar el documento de constitución en los próximos 2-4 semanas para alinear sus casos de uso con los valores declarados y evaluar si publicar documentos equivalentes para sus propios sistemas de IA podría mejorar confianza con reguladores y clientes.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Simon Willison. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineacióntraining constitucional AnthropicOpenAIGoogle DeepMind alineación IA Anthropic Claude constitución transparencia
Forma parte de la historia Anthropic publica la constitución de Claude como documento abierto (2 noticias, estado: cerrada).
Relacionadas
Anthropic actualiza la Constitución de Claude y plantea debate sobre conciencia en IA
Anthropic ha publicado una versión revisada de la Constitución de Claude, un documento de 80 páginas que detalla los principios éticos y de comportamiento que…
Por qué importaLa revisión subraya el posicionamiento de Anthropic como competidor diferenciado por enfoque ético frente a OpenAI y otras compañías, y abre un…
Anthropic trata a Claude como si tuviera sentimientos en su entrenamiento y documentación
Anthropic publicó Claude's Constitution, un documento de 30.000 palabras que guía el comportamiento de su modelo de IA Claude. El documento emplea un tono…
Por qué importaLa adopción de lenguaje sobre consciencia y bienestar de IA en documentos de entrenamiento de gran visibilidad influye en cómo la industria y el…
Anthropic apuesta por la sabiduría de Claude para resolver el dilema de seguridad en IA avanzada
Anthropic ha publicado una versión actualizada de «Claude's Constitution», un marco ético que guía al modelo para ejercer juicio independiente en lugar de…
Por qué importaEl enfoque de Anthropic refleja un cambio estratégico fundamental: confiar en que el modelo mismo desarrolle juicio moral en lugar de imponerle…
Anthropic consulta a filósofos y teólogos para definir la moralidad de Claude en un documento de 84 páginas
Según The New York Times, Anthropic ha consultado durante un año a filósofos, teólogos, psicólogos y juristas para definir el carácter moral de su IA Claude…
Por qué importaLa forma en que una empresa líder en IA define los valores y límites éticos de su modelo influye directamente en cómo se comporta frente a…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.