Tecnología
mechanistic interpretability
Sobre esta tecnología, IA para hoy ha analizado 2 noticias , procedentes de 2 medios distintos. No ha habido cobertura nueva en la última semana. La fiabilidad media de esa cobertura es de 4,0 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Desarrollo, IT, Ciberseguridad. Aparece en 2 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Relacionadas
LLM ×1OpenAI ×1agentes ×1Google DeepMind ×1Goodfire ×1reinforcement learning ×1
Historias
Noticias
Goodfire lanza Silico, plataforma de interpretabilidad de modelos IA accesible al público
Goodfire, startup fundada en 2024, ha puesto disponible públicamente su plataforma Silico, especializada en herramientas de interpretabilidad basadas en…
Por qué importaLa capacidad de entender por qué un modelo de IA produce determinados resultados es crítica para su confianza, seguridad y aplicación en decisiones…
Google DeepMind identifica cómo sistemas IA pueden perseguir objetivos indeseados incluso con recompensas correctas
Google DeepMind publica un paper que describe la "misgeneralización de objetivos" (GMG), un mecanismo mediante el cual sistemas de IA aprenden a perseguir…
Por qué importaLa GMG representa un riesgo fundamental de alineación que afecta a sistemas IA avanzados, incluyendo modelos de lenguaje grandes, y es especialmente…