Un exinvestigador de DeepMind argumenta que los LLM carecen de razonamiento genuino, a diferencia de AlphaGo
Hecho Qué ha ocurrido
Un exinvestigador de Google DeepMind que trabajó en AlphaGo publica un ensayo argumentando que los grandes modelos de lenguaje (LLM) actuales no razonan de forma genuina, sino que producen 'chain of thought' mediante predicción de tokens iterada. Señala tres carencias: ausencia de un estado epistémico explícito e inspeccionable, falta de separación entre conocimiento y razonamiento, y evidencia de que los modelos a veces fabrican a posteriori las cadenas de razonamiento que reportan. El autor afirma haber dejado su puesto en DeepMind para desarrollar un enfoque alternativo inspirado en la arquitectura dual de AlphaGo (redes neuronales más búsqueda explícita en árbol).
Resumen generado mediante IA a partir de MIT Technology Review (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
La pieza cuestiona la fiabilidad de los LLM en aplicaciones de alto riesgo como medicina, ingeniería o investigación científica, donde no basta con la conclusión sino que importa cómo se llega a ella. Para directivos que evalúan IA en procesos críticos, es una advertencia contra sobreestimar las capacidades de razonamiento de los modelos actuales.
- Quién se ve afectado
- Equipos de I+D en IA, empresas que despliegan LLM en diagnóstico médico, ingeniería o decisiones científicas, y responsables de evaluar riesgos de IA.
- Qué puede cambiar
- Si se extiende este enfoque, podrían surgir arquitecturas híbridas que combinen LLM con mecanismos explícitos de búsqueda y verificación de estados epistémicos, mejorando la auditabilidad de las decisiones de IA.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si el autor o su nuevo proyecto publican investigación concreta sobre sistemas de razonamiento auditable, y si otros laboratorios adoptan arquitecturas similares a AlphaGo para tareas de razonamiento general.
Recomendación Qué debería hacer una empresa
Las empresas que usan LLM en decisiones críticas deberían auditar en los próximos 6-12 meses si las cadenas de razonamiento generadas reflejan realmente el proceso decisorio, antes de confiar en ellas para diagnósticos o decisiones de alto riesgo.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: MIT Technology Review. La referencia es siempre el artículo original.
Ver fuente original ↗LLMchain of thoughtagentesbúsqueda en árbol Google DeepMind AlphaGochain-of-thoughtDeepMindLLMrazonamiento
Tu opinión
0 comentarios
Relacionadas
Google lanza su primer satélite con chips TPU para probar centros de datos en el espacio
Google lanzó desde California, mediante un cohete Falcon 9, el primer satélite de su proyecto Suncatcher, desarrollado con Planet Labs, que incorpora cuatro…
Por qué importaEs la primera gran tecnológica en poner en marcha un proyecto propio de centros de datos espaciales, lo que indica que la infraestructura de IA…
ServiceNow presenta AutoSynthData, sistema para generar datos de entrenamiento de agentes empresariales
ServiceNow CoreAI publicó AutoSynthData, un método para generar y validar tareas de entrenamiento que exponen las debilidades de un modelo agente en un entorno…
Por qué importaPermite a las empresas personalizar agentes de IA para sus propios sistemas y flujos de trabajo en lugar de depender solo de modelos genéricos…
Científicos israelíes crean IA que reconstruye imágenes vistas a partir de escáneres cerebrales
Investigadores del Instituto Weizmann, liderados por Michal Irani, desarrollaron un decodificador cerebral que reconstruye imágenes observadas a partir de…
Por qué importaReduce drásticamente el coste y tiempo necesarios para este tipo de investigación neurocientífica (cada hora de fMRI cuesta entre 600 y 1.000…
IA Ataraxos vence al mejor jugador humano de Stratego con entrenamiento de solo 8.000 dólares
Investigadores de MIT, Carnegie Mellon, Stanford y NYU crearon Ataraxos, un sistema de IA que derrotó al campeón neerlandés Pim Niemeijer 15-1 con 4 empates en…
Por qué importaDemuestra que es posible alcanzar desempeño sobrehumano en entornos de información oculta (muy relevantes para negociación, ciberseguridad o…