Anthropic publica la constitución de Claude, documento de 35.000 tokens sobre valores del modelo
Hecho Qué ha ocurrido
Anthropic ha publicado oficialmente bajo licencia CC0 el documento de "constitución" que guía el entrenamiento de Claude Opus 4.5, un archivo de más de 35.000 tokens que describe los valores centrales del modelo. El documento fue inicialmente descubierto como una "fuga" por Richard Weiss, quien logró que el modelo lo regurgitara durante las pruebas, y Amanda Askell de Anthropic confirmó que formaba parte de los procedimientos de entrenamiento. El documento incluye reconocimientos de quince contribuyentes externos, entre ellos dos miembros del clero católico con formación en ética y tecnología.
Resumen generado mediante IA a partir de Simon Willison (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
La publicación de este documento abre una ventana sin precedentes sobre cómo se define y codifica la alineación de un modelo LLM de nivel empresarial, estableciendo un nuevo estándar de transparencia en la industria. Para directivos y equipos de IA, comprende cómo un laboratorio líder estructura los valores del modelo es esencial para evaluar confiabilidad, sesgos e integración en procesos críticos.
- Quién se ve afectado
- Equipos de IA, directivos de transformación digital, responsables de cumplimiento normativo y empresas que despliegan Claude en entornos sensibles (legal, finanzas, salud).
- Qué puede cambiar
- La disponibilidad de este documento puede servir como referencia para auditorías de IA, evaluación de alineación en modelos competidores, y presión sobre otros laboratorios para publicar sus propias constituciones. Permite a usuarios y auditores externos comprender mejor qué comportamientos y valores están baked in en el modelo.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Reacciones de OpenAI, Google DeepMind y otros laboratorios ante la divulgación; adopción de esta práctica de transparencia en la industria; impacto en regulaciones de IA que demanden documentación de valores; análisis académico y críticas sobre la inclusión de perspectives religiosas en la gobernanza técnica de modelos.
Recomendación Qué debería hacer una empresa
Equipos que utilizan Claude en producción deberían revisar el documento de constitución en los próximos 2-4 semanas para alinear sus casos de uso con los valores declarados y evaluar si publicar documentos equivalentes para sus propios sistemas de IA podría mejorar confianza con reguladores y clientes.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Simon Willison. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineacióntraining constitucional alineación IAAnthropicClaudeconstitucióntransparencia
Forma parte de la historia Anthropic publica constitución de Claude como documento público (2 noticias, estado: cerrada).
Tu opinión
0 comentarios
Relacionadas
Anthropic actualiza la Constitución de Claude y plantea debate sobre conciencia en IA
Anthropic ha publicado una versión revisada de la Constitución de Claude, un documento de 80 páginas que detalla los principios éticos y de comportamiento que…
Por qué importaLa revisión subraya el posicionamiento de Anthropic como competidor diferenciado por enfoque ético frente a OpenAI y otras compañías, y abre un…
Suno lanza modelo v6 entrenado con música licenciada tras demandas por derechos de autor
Suno presentó su nueva familia de modelos Suno v6, entrenada con datos licenciados de sellos como Warner Music Group, BMG y Believe, en tres versiones: v6, v6…
Por qué importaIlustra cómo las empresas de IA generativa están reestructurando sus modelos de negocio y técnicos para adaptarse a la presión legal por derechos de…
GPT-6 Astra de OpenAI ya está disponible en Amazon Bedrock
OpenAI y AWS anunciaron la disponibilidad general de GPT-6 Astra en Amazon Bedrock, con contexto de hasta 1 millón de tokens y capacidades de uso de navegador…
Por qué importaEs la incorporación de un modelo frontier de OpenAI con capacidades avanzadas de razonamiento y agentic dentro de la infraestructura de seguridad y…
Meta lanza Muse, su primer agente de IA capaz de ejecutar tareas autónomas
Meta lanzó Muse, un agente de IA disponible en EE.UU. que puede redactar correos, hacer reservas, rellenar formularios y navegar por webs sin API en nombre del…
Por qué importaMuse representa la apuesta de Meta por los agentes autónomos como próxima frontera de la IA, un área donde compite directamente con OpenAI y…