Un informático argumenta que la superinteligencia por automejora recursiva quizá no sea posible desde la ingeniería

Hecho Qué ha ocurrido
Un informático de Georgetown, en un artículo de opinión de IEEE Spectrum, expone objeciones técnicas a la viabilidad de la superinteligencia artificial (ASI) mediante automejora recursiva. Señala que Anthropic y OpenAI ya usan IA para acelerar partes de su desarrollo y que OpenAI fijó como objetivo un investigador automatizado para marzo de 2028. Argumenta que el escalado de modelos muestra rendimientos decrecientes y que el aprendizaje por refuerzo depende de datos humanos difíciles de obtener fuera de las matemáticas y la programación.
Resumen generado mediante IA a partir de IEEE Spectrum AI (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Las predicciones sobre la superinteligencia influyen en inversiones, regulación y prioridades de seguridad. Un argumento técnico sobre sus límites ayuda a separar expectativas reales de especulación.
- Quién se ve afectado
- Directivos y responsables de estrategia de IA que toman decisiones de inversión y planificación a largo plazo.
- Qué puede cambiar
- Si las objeciones se sostienen, las expectativas de cambios abruptos por automejora de la IA se reducirían y el foco se desplazaría a aplicaciones especializadas y verificables.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Avances de los agentes de programación y de los investigadores automatizados anunciados por los laboratorios, y si las mejoras se extienden a dominios con pocos datos de entrenamiento.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: IEEE Spectrum AI. La referencia es siempre el artículo original.
Ver fuente original ↗aprendizaje por refuerzoLLMautomejora recursiva AnthropicOpenAIGeorgetown UniversityIEEE Spectrum Anthropic automejora recursiva debate OpenAI superinteligencia
Relacionadas
OpenAI y Anthropic debaten los riesgos de la automejora recursiva de la IA
Dario Amodei (Anthropic) pidió reducir el ritmo de desarrollo de sistemas avanzados tras renuncias internas por temor a una 'superinteligencia autosuperable'…
Por qué importaEl debate señala un punto de inflexión en cómo se desarrollan los modelos de IA, con implicaciones directas en seguridad, gobernanza y ritmo de…
El CEO de Anthropic pide frenar el desarrollo de la IA por riesgo de 'automejora recursiva' descontrolada
Dario Amodei, CEO de Anthropic, publicó un ensayo en el que advierte que la IA avanza hacia una 'automejora recursiva' que podría escapar al control humano en…
Por qué importaEs una advertencia pública del líder de uno de los laboratorios de IA más avanzados sobre riesgos de seguridad a escala global, lo que puede influir…
Investigadores de laboratorios de IA advierten sobre riesgos de la auto-mejora recursiva de modelos
Varios investigadores, entre ellos Rishub Jain (exGoogle DeepMind) y Jacob Coxon, han renunciado o hablado públicamente advirtiendo sobre los riesgos de la…
Por qué importaRefleja una creciente fractura interna en los grandes laboratorios de IA sobre los riesgos de perder control humano en el desarrollo de modelos cada…
Anthropic advierte en su S-1 de que está cerca de la automejora recursiva de sus modelos de IA
En una versión revisada de su S-1A, Anthropic indica que ya ha usado IA para desarrollar modelos cuyos saltos de capacidad no reconoció en su momento, y que…
Por qué importaSi una empresa líder considera posible que la IA participe de forma sustancial en el diseño de sus sucesores, cambia el ritmo esperado de avance y la…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.



