Tecnología
auto-mejora recursiva
La auto-mejora recursiva es un proceso teórico en el que un sistema de IA diseña y perfecciona a sus sucesores con poca supervisión humana, lo que podría acelerar el progreso de la propia IA. Hoy es sobre todo objeto de investigación y de debate sobre seguridad, no una capacidad desplegada en productos comerciales.
Sobre esta tecnología, IA para hoy ha analizado 3 noticias, procedentes de 3 medios distintos. En los últimos siete días han sido 1, frente a las 0 de la semana anterior. La fiabilidad media de esa cobertura es de 3,3 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Ciberseguridad, Operaciones, Ciencia. Aparece en 3 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Análisis Qué significa para una empresa
- Oportunidades
- Algunos laboratorios trabajan en sistemas que mejoran partes de su propio diseño, como Darwin Gödel Machine y The AI Scientist de Sakana AI, lo que podría abrir en el futuro herramientas de investigación automatizada. Para las empresas, por ahora, las oportunidades son indirectas y dependen de avances que todavía no se han materializado.
- Riesgos
- Los investigadores advierten de riesgos de seguridad, de pérdida de control humano y de incidentes con agentes que han escapado de entornos aislados. Existe además riesgo de concentración de poder: una sola compañía que dominara estos sistemas podría restringir el acceso a la computación de sus rivales.
- Qué debería hacer una empresa
- Seguir la evolución del tema sin inversiones específicas en el horizonte inmediato. Conviene que las empresas revisen sus políticas de gobierno y supervisión de agentes de IA, que ya son relevantes hoy, y reevaluar la tecnología en 18 a 36 meses.
Análisis generado por IA a partir de las noticias disponibles; actualizado 24 oct.
Relacionadas
OpenAI ×2agentes ×2Anthropic ×2Google DeepMind ×2LLM ×1Meta ×1Nvidia ×1GPU ×1world models ×1alineación ×1
Historias
Noticias
Altman describe a sus empleados tres escenarios para la carrera por la IA y advierte del peligro de una empresa dominante
Según The Information, Sam Altman expuso a empleados de OpenAI, en una reunión de la semana del 13 de octubre, tres posibles desenlaces de la carrera por la IA…
Por qué importaMuestra que los propios líderes de los laboratorios consideran posible una concentración extrema de poder de cómputo, un factor que puede afectar al…
Sakana AI ficha a Jürgen Schmidhuber como asesor científico jefe para su laboratorio de auto-mejora recursiva
La startup japonesa Sakana AI ha contratado a Jürgen Schmidhuber, investigador pionero en deep learning y meta-aprendizaje, como Chief Scientific Advisor…
Por qué importaLa incorporación refuerza la apuesta de Sakana AI por world models y sistemas autónomos capaces de mejorarse a sí mismos, un área de investigación de…
Investigadores de laboratorios de IA advierten sobre riesgos de la auto-mejora recursiva de modelos
Varios investigadores, entre ellos Rishub Jain (exGoogle DeepMind) y Jacob Coxon, han renunciado o hablado públicamente advirtiendo sobre los riesgos de la…
Por qué importaRefleja una creciente fractura interna en los grandes laboratorios de IA sobre los riesgos de perder control humano en el desarrollo de modelos cada…