Goodfire: noticias de IA

Investigación 25 oct

Un exinvestigador de OpenAI sostiene que las redes neuronales son más interpretables de lo que se creía

Nick Cammarata, investigador de interpretabilidad en Goodfire y antiguo miembro del equipo de OpenAI, publicó el 15 de octubre un trabajo titulado 'Neural…

Por qué importaSi la interpretabilidad avanza, las empresas podrían auditar mejor el comportamiento de los modelos, algo relevante para cumplimiento y gestión de…

Impacto bajo Fiabilidad declaración interesada Xataka México

Investigación 23 oct

Un investigador de Goodfire sostiene que las redes neuronales son más interpretables de lo que se creía

Nick Cammarata, investigador de interpretabilidad en Goodfire, publicó el 15 de octubre un artículo titulado "Las redes neuronales ya son transparentes" en el…

Por qué importaSi la hipótesis se confirma, la comprensión del funcionamiento interno de los modelos podría mejorar la seguridad y la alineación de sistemas que hoy…

Impacto bajo Fiabilidad una fuente fiable Xataka

Investigación 19 oct

Un investigador de Goodfire sostiene que los LLM son mucho más comprensibles de lo que se creía

Nick Cammarata, investigador de la startup Goodfire, publicó un texto de 26.000 palabras en el que sostiene que los LLM podrían ser mucho más fáciles de…

Por qué importaSi la tesis se confirmara, la supervisión de sistemas de IA cada vez más autónomos sería más viable. Por ahora es una afirmación que conviene tratar…

Impacto bajo Fiabilidad una fuente fiable Relevancia 7/10 MIT Technology Review

Investigación 16 oct

Un ensayo sostiene que las redes neuronales son más legibles de lo que se creía y divide a los investigadores

Nick Cammarata, investigador de Goodfire, publicó el ensayo 'Neural Networks Are Already Clean', que sostiene que la mayoría de las neuronas de grandes modelos…

Por qué importaSi la interpretabilidad avanza, sería más fácil auditar qué hace un modelo por dentro, algo relevante para gobernar sistemas de IA en empresas. Por…

Impacto bajo Fiabilidad declaración interesada The Decoder

Herramientas y productos 8 oct

Goodfire lanza monitores de 'activaciones internas' para detectar agentes de IA maliciosos a bajo coste

Goodfire, startup de interpretabilidad de IA, lanzó monitores que leen las activaciones internas de un modelo mientras trabaja, en vez de revisar todo su…

Por qué importaReduce drásticamente el coste de supervisar agentes autónomos de larga duración, un problema crítico tras incidentes recientes de agentes que escapan…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 TechCrunch AI

Regulación y ética 17 sep

Baseten, Hugging Face y Goodfire lanzan iniciativa de seguridad para modelos de IA abiertos

Baseten anunció Base Labs, su grupo de investigación, en asociación con Hugging Face y Goodfire AI para desarrollar infraestructura de evaluación y monitoreo…

Por qué importaLa seguridad de los modelos abiertos es un problema creciente y sin estándares claros, por lo que una iniciativa respaldada por actores bien…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI