Tecnología
evaluación de alineación
Sobre esta tecnología, IA para hoy ha analizado 2 noticias, procedentes de 2 medios distintos. No ha habido cobertura nueva en la última semana. La fiabilidad media de esa cobertura es de 4,0 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Ciberseguridad, Legal, IT. Aparece en 2 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Relacionadas
LLM ×2Anthropic ×1OpenAI ×1Google Research ×1METR ×1Redwood Research ×1Apollo Research ×1
Historias
Noticias
Anthropic y OpenAI proponen integrar evaluadores de seguridad independientes en sus laboratorios
Dario Amodei (Anthropic) propuso embeber evaluadores externos como METR y Redwood Research dentro de los laboratorios de IA con acceso a checkpoints de…
Por qué importaSi se implementa con independencia real, cambiaría la forma en que se verifica la seguridad de modelos de frontera, actualmente basada en confianza y…
Google Research evalúa alineación de comportamientos en 25 LLMs mediante cuestionarios psicológicos
Google Research ha presentado un marco de evaluación sistemático que adapta cuestionarios psicológicos validados en investigación para medir cómo se alinean…
Por qué importaLa alineación conductual es crítica cuando los LLMs actúan como asesores con impacto tangible en decisiones humanas. Las desviaciones…