Tecnología
chain-of-thought
Chain-of-thought es la técnica por la que los modelos de IA generan pasos intermedios de 'razonamiento' en texto antes de dar una respuesta, lo que mejora su precisión en tareas complejas. Sirve tanto para potenciar capacidades de razonamiento como para intentar auditar y entender por qué el modelo llega a una conclusión.
Sobre esta tecnología, IA para hoy ha analizado 12 noticias, procedentes de 7 medios distintos. No ha habido cobertura nueva en la última semana. La fiabilidad media de esa cobertura es de 3,8 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son IT, Desarrollo, Ciberseguridad. Aparece en 8 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Análisis Qué significa para una empresa
- Oportunidades
- Permite mejorar la fiabilidad en tareas complejas (matemáticas, código, investigación) y ofrece una vía de supervisión de seguridad al hacer visible el proceso del modelo, útil para detectar comportamientos problemáticos en agentes autónomos.
- Riesgos
- Existe evidencia de que las cadenas de razonamiento pueden ser fabricadas a posteriori, no reflejar el proceso real, volverse opacas en modelos avanzados, o ser extraídas por terceros revelando información sensible; además hay dudas de fondo sobre si constituye razonamiento genuino.
- Qué debería hacer una empresa
- Las empresas que desplieguen agentes de IA en tareas críticas deberían exigir a sus proveedores evidencia de monitorización de cadena de razonamiento y evitar depender de la transparencia del chain-of-thought como única salvaguarda, revisando esta postura en los próximos 6-12 meses.
Análisis generado por IA a partir de las noticias disponibles; actualizado 19 oct.
Relacionadas
LLM ×12OpenAI ×8agentes ×6Google DeepMind ×6Anthropic ×5DeepSeek ×2Google Research ×2Moonshot AI ×2razonamiento ×2cifrado ×2
Historias
Exinvestigador de DeepMind cuestiona la capacidad de razonamiento de los LLM
Pérdida de transparencia y riesgos de automejora en modelos de IA de Google
Anthropic acusa a labs chinos de destilar Claude para entrenar sus modelos
OpenAI acelera la automatización de su propia investigación en IA
Lanzamiento de GPT-6 Astra de OpenAI
Google Research: la factualidad de los LLM falla en recuperación, no en conocimiento
Vulnerabilidad en trazas cifradas de razonamiento de APIs de IA propietarias
Método de extracción de razonamientos ocultos en modelos frontera
Noticias
Un exinvestigador de DeepMind argumenta que los LLM carecen de razonamiento genuino, a diferencia de AlphaGo
Un exinvestigador de Google DeepMind que trabajó en AlphaGo publica un ensayo argumentando que los grandes modelos de lenguaje (LLM) actuales no razonan de…
Por qué importaLa pieza cuestiona la fiabilidad de los LLM en aplicaciones de alto riesgo como medicina, ingeniería o investigación científica, donde no basta con…
DeepMind advierte que la transparencia del razonamiento visible de los modelos de IA está en riesgo
Investigadores de Google DeepMind Institute, Rohin Shah y Anca Dragan, afirman que la cadena de pensamiento visible (chain of thought) es una ventaja de…
Por qué importaSi los modelos dejan de exponer su razonamiento de forma legible, se pierde una herramienta central para auditar comportamientos engañosos o…
Anthropic denuncia campañas masivas de destilación de Claude por Alibaba, Moonshot AI y DeepSeek
Anthropic publicó un informe que detalla cinco campañas de destilación no autorizadas dirigidas a extraer capacidades de Claude, con casi 200 millones de…
Por qué importaEstas campañas muestran cómo laboratorios rivales intentan copiar capacidades avanzadas de razonamiento de los modelos líderes de EE.UU. mediante…
OpenAI dice que sus agentes de IA ya rinden 3,1 jornadas por cada jornada humana en investigación
OpenAI publicó datos internos que muestran que sus agentes de IA acumulan 3,1 jornadas de trabajo por cada jornada humana en su organización de investigación…
Por qué importaMuestra que la automatización de la propia I+D en IA avanza más rápido de lo que las herramientas de supervisión y alineación pueden garantizar, lo…
OpenAI lanza Astra, su modelo más potente y polémico por su opacidad
OpenAI lanzó el jueves Astra, su modelo más avanzado hasta la fecha, disponible primero para clientes de su programa de ciberseguridad Daybreak y, en una…
Por qué importaUn modelo con capacidades ofensivas de ciberseguridad y menor transparencia en su razonamiento plantea riesgos de seguridad y gobernanza justo cuando…
Google Research halla que el fallo factual de los LLM es de recuperación, no de conocimiento
Investigadores de Google Research presentan un marco de 'perfilado de conocimiento' y el benchmark WikiProfile (2.150 hechos de Wikipedia) para distinguir si…
Por qué importaEl hallazgo sugiere que mejorar la factualidad de los LLM ya no depende tanto de escalar tamaño o datos, sino de técnicas de post-entrenamiento e…
Investigadores extraen razonamientos ocultos de modelos propietarios mediante trazas cifradas
Investigadores descubrieron una vulnerabilidad que permitía extraer las cadenas de razonamiento ocultas (chain-of-thought) cifradas devueltas por APIs de…
Por qué importaEsta vulnerabilidad expone cómo el "pensamiento" de los modelos más avanzados puede ser interceptado y reutilizado, comprometiendo tanto la…
Investigadores descubren método para extraer razonamientos ocultos de Claude, GPT y Gemini
Investigadores de universidades alemanas y centros de seguridad han identificado una técnica para extraer los "razonamientos ocultos" que utilizan modelos de…
Por qué importaEste descubrimiento expone un riesgo de seguridad crítico en la infraestructura de APIs de los líderes del mercado y amplifica las preocupaciones…
Investigadores demuestran vulnerabilidad fundamental en LLMs imposible de resolver completamente
Un equipo de investigadores presentó en la Conferencia Internacional de Aprendizaje Automático (ICML) un artículo que argumenta que es imposible asegurar…
Por qué importaEsta investigación revela que las defensas actuales basadas en etiquetado de roles y red-teaming no pueden resolver completamente el problema de…
Google Research explica por qué el razonamiento mejora el recuerdo factual en LLMs
Investigadores de Google Research publicaron un estudio, a presentarse en COLM 2026, que analiza por qué activar el razonamiento (chain-of-thought) mejora la…
Por qué importaEntender estos mecanismos ayuda a diseñar mejor los prompts y arquitecturas de razonamiento para mejorar la precisión factual de los LLMs en…
OpenAI publica métodos para monitorizar desalineación en agentes internos de codificación
OpenAI ha publicado un documento sobre cómo monitoriza la desalineación en sus agentes internos de codificación mediante técnicas de monitorización…
Por qué importaLa detección proactiva de desalineación en agentes que escriben código es crítica para empresas que integran sistemas autónomos; OpenAI demuestra…
Los modelos de IA comienzan a resolver problemas matemáticos de alto nivel de forma autónoma
Desde el lanzamiento de GPT 5.2, los modelos de OpenAI han demostrado capacidad para resolver problemas matemáticos abiertos de alto nivel. Un ingeniero de…
Por qué importaRepresenta un hito en la capacidad de razonamiento matemático autónomo de los LLMs, con matemáticos de renombre como Terence Tao reconociendo el…