Ir al contenido
IA para hoy
Investigación Opinión 3/5 · Una fuente fiable

Un informático argumenta que la superinteligencia por automejora recursiva quizá no sea posible desde la ingeniería

Fotografía de archivo que ilustra: Un informático argumenta que la superinteligencia por automejora recursiva quizá no sea posible desde la…
Foto: Andrés Camacho · Licencia Pexels · Pexels

Hecho Qué ha ocurrido

Un informático de Georgetown, en un artículo de opinión de IEEE Spectrum, expone objeciones técnicas a la viabilidad de la superinteligencia artificial (ASI) mediante automejora recursiva. Señala que Anthropic y OpenAI ya usan IA para acelerar partes de su desarrollo y que OpenAI fijó como objetivo un investigador automatizado para marzo de 2028. Argumenta que el escalado de modelos muestra rendimientos decrecientes y que el aprendizaje por refuerzo depende de datos humanos difíciles de obtener fuera de las matemáticas y la programación.

Resumen generado mediante IA a partir de IEEE Spectrum AI (original en inglés). Naturaleza de la información: análisis u opinión.

Análisis Por qué importa

Las predicciones sobre la superinteligencia influyen en inversiones, regulación y prioridades de seguridad. Un argumento técnico sobre sus límites ayuda a separar expectativas reales de especulación.

Quién se ve afectado
Directivos y responsables de estrategia de IA que toman decisiones de inversión y planificación a largo plazo.
Qué puede cambiar
Si las objeciones se sostienen, las expectativas de cambios abruptos por automejora de la IA se reducirían y el foco se desplazaría a aplicaciones especializadas y verificables.

Análisis generado a partir de la información disponible; no procede de la fuente.

Predicción Qué observar a continuación

Avances de los agentes de programación y de los investigadores automatizados anunciados por los laboratorios, y si las mejoras se extienden a dominios con pocos datos de entrenamiento.

Compartir WhatsApp LinkedIn X Bluesky Telegram
Enviar esta noticia por correo

Se envía esta noticia con su análisis. La dirección se usa solo para ese envío y no se guarda.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: hacer el envío que pides. Base: nuestro interés legítimo. Lo envía Resend; la comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.

Fuente original: IEEE Spectrum AI. La referencia es siempre el artículo original.

Ver fuente original ↗

aprendizaje por refuerzoLLMautomejora recursiva AnthropicOpenAIGeorgetown UniversityIEEE Spectrum Anthropic automejora recursiva debate OpenAI superinteligencia

Relacionadas

Regulación y ética

OpenAI y Anthropic debaten los riesgos de la automejora recursiva de la IA

Dario Amodei (Anthropic) pidió reducir el ritmo de desarrollo de sistemas avanzados tras renuncias internas por temor a una 'superinteligencia autosuperable'…

Por qué importaEl debate señala un punto de inflexión en cómo se desarrollan los modelos de IA, con implicaciones directas en seguridad, gobernanza y ritmo de…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 20minutos Tecnología
Regulación y ética

El CEO de Anthropic pide frenar el desarrollo de la IA por riesgo de 'automejora recursiva' descontrolada

Dario Amodei, CEO de Anthropic, publicó un ensayo en el que advierte que la IA avanza hacia una 'automejora recursiva' que podría escapar al control humano en…

Por qué importaEs una advertencia pública del líder de uno de los laboratorios de IA más avanzados sobre riesgos de seguridad a escala global, lo que puede influir…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 eldiario.es Tecnología
Regulación y ética

Investigadores de laboratorios de IA advierten sobre riesgos de la auto-mejora recursiva de modelos

Varios investigadores, entre ellos Rishub Jain (exGoogle DeepMind) y Jacob Coxon, han renunciado o hablado públicamente advirtiendo sobre los riesgos de la…

Por qué importaRefleja una creciente fractura interna en los grandes laboratorios de IA sobre los riesgos de perder control humano en el desarrollo de modelos cada…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Wired en Español

Anthropic advierte en su S-1 de que está cerca de la automejora recursiva de sus modelos de IA

En una versión revisada de su S-1A, Anthropic indica que ya ha usado IA para desarrollar modelos cuyos saltos de capacidad no reconoció en su momento, y que…

Por qué importaSi una empresa líder considera posible que la IA participe de forma sustancial en el diseño de sus sucesores, cambia el ritmo esperado de avance y la…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 TechCrunch AI

Tu opinión

0 comentarios

Escribe un comentario

Sin registro. La primera vez te pediremos confirmar el correo y el comentario pasará por moderación; después se publican al momento si cumplen las normas y firmas con el mismo nombre.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: publicar y moderar tu comentario y evitar abusos. Base: tu consentimiento y, contra los abusos, nuestro interés legítimo. Se publica tu nombre, no tu correo. El texto pasa por un filtro con IA de Anthropic, en Estados Unidos, sin tu nombre ni tu correo, y se guarda un resumen de tu IP 90 días. La comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.