Ir al contenido
IA para hoy

alineación IA

Noticias etiquetadas con «alineación IA»

4 noticias

Filtrar
Herramientas y productos

OpenAI lanza GPT-6.1 Sol, casi al nivel de GPT-6 Astra pero cinco veces más barato

En su DevDay, OpenAI presentó GPT-6.1 Sol una semana después de GPT-6 Sol, afirmando que iguala casi el nivel de GPT-6 Astra en codificación agéntica, uso de…

Por qué importaLa sustitución del modelo insignia por una versión más barata y casi igual de capaz, mientras se cancela la versión más potente por riesgos de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Regulación y ética

Microsoft publica borrador de Código de Conducta de IA Humanista y abre consulta pública

Microsoft publicó el lunes un borrador de 37 páginas de su Código de Conducta de IA Humanista, que aboga por mantener la IA subordinada al control humano y…

Por qué importaEs un gesto de posicionamiento de uno de los mayores proveedores de IA empresarial que se suma a Anthropic y OpenAI en declaraciones sobre…

Impacto bajo Fiabilidad confirmado por varias fuentes Computerworld España
Herramientas y productos

Anthropic publica la constitución de Claude, documento de 35.000 tokens sobre valores del modelo

Anthropic ha publicado oficialmente bajo licencia CC0 el documento de "constitución" que guía el entrenamiento de Claude Opus 4.5, un archivo de más de 35.000…

Por qué importaLa publicación de este documento abre una ventana sin precedentes sobre cómo se define y codifica la alineación de un modelo LLM de nivel…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 Simon Willison
Investigación

Google DeepMind presenta Sparrow, un agente de diálogo más seguro y verificable

Google DeepMind ha publicado un paper introduciendo Sparrow, un agente de diálogo entrenado con refuerzo basado en feedback humano para reducir respuestas…

Por qué importaSparrow demuestra métodos prácticos para entrenar agentes de diálogo más seguros mediante refuerzo con feedback humano, una línea de investigación…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Google DeepMind