Investigadores descubren método para extraer razonamientos ocultos de Claude, GPT y Gemini
Hecho Qué ha ocurrido
Investigadores de universidades alemanas y centros de seguridad han identificado una técnica para extraer los "razonamientos ocultos" que utilizan modelos de IA frontera (Claude, GPT-5.6 Sol, Gemini) al resolver problemas complejos. El método aprovecha que las empresas ofrecen versiones más pequeñas del mismo modelo con la misma clave de descifrado pero menor alineamiento; al redirigir trazas de razonamiento cifradas a estos modelos débiles, revelan el pensamiento oculto. Los investigadores también demostraron que el método recupera información sensible como contraseñas y claves API, aunque las empresas ya han parchado esta vulnerabilidad específica.
Resumen generado mediante IA a partir de Wired AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Este descubrimiento expone un riesgo de seguridad crítico en la infraestructura de APIs de los líderes del mercado y amplifica las preocupaciones geopolíticas sobre la destilación de modelos estadounidenses por empresas chinas. Los directivos deben entender que sus consultas a APIs pueden revelar información de razonamiento que facilita la replicación o extracción de datos sensibles.
- Quién se ve afectado
- Empresas que utilizan APIs de OpenAI, Anthropic y Google para modelos frontera, especialmente aquellas que procesan información sensible o competitiva a través de estas plataformas.
- Qué puede cambiar
- Las empresas proveedoras de modelos deben replantear fundamentalmente cómo cifran y distribuyen trazas de razonamiento en APIs, no solo parchando vulnerabilidades específicas sino rediseñando la arquitectura. La viabilidad técnica de la destilación desde modelos cerrados aumenta significativamente.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar cómo evolucionan los parches de OpenAI, Anthropic y Google más allá de mitigaciones a corto plazo; si los investigadores revelan nuevos métodos de extracción; adopción de estas técnicas por laboratorios chinos en modelos como Kimi K3 o DeepSeek; y cambios en políticas de restricción de acceso a APIs que incluyan versiones pequeñas del mismo modelo.
Recomendación Qué debería hacer una empresa
Evaluar en los próximos 3-6 meses si los datos procesados vía APIs de modelos frontera podrían contener información competitiva y considerar arquitecturas alternativas (modelos internos, modelos abiertos auditados) para tareas críticas; solicitar transparencia a proveedores sobre mitigaciones permanentes.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Wired AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMreasoningchain-of-thoughtdestilacióncifrado OpenAIAnthropicGoogle DeepMindMoonshot AIDeepSeek APIs destilación geopolítica-IA seguridad vulnerabilidad
Relacionadas
Investigadores extraen razonamientos ocultos de modelos propietarios mediante trazas cifradas
Investigadores descubrieron una vulnerabilidad que permitía extraer las cadenas de razonamiento ocultas (chain-of-thought) cifradas devueltas por APIs de…
Por qué importaEsta vulnerabilidad expone cómo el "pensamiento" de los modelos más avanzados puede ser interceptado y reutilizado, comprometiendo tanto la…
Google denuncia intentos de clonar Gemini mediante más de 100.000 consultas
Google ha anunciado que actores con motivaciones comerciales han intentado extraer conocimiento de su modelo Gemini realizando más de 100.000 consultas, muchas…
Por qué importaEvidencia que los modelos de IA líderes son vulnerables a ataques de extracción de conocimiento, lo que reduce las barreras de entrada para…
Investigadores extraen libros completos de modelos IA comerciales como Claude y Gemini
Investigadores de Stanford y Yale han demostrado que modelos IA comerciales en producción —Claude 3.7 Sonnet, GPT-4.1, Gemini 2.5 Pro y Grok 3— pueden…
Por qué importaEste hallazgo es crítico en los más de 60 litigios en curso contra fabricantes de IA por uso no autorizado de contenido protegido. Demuestra que los…
OpenAI contiene robo de razonamiento de sus modelos, pero el fallo persiste en Azure
OpenAI detectó y cerró una campaña de más de 15.000 cuentas que intentaban extraer el razonamiento oculto de sus modelos mediante 'destilación adversarial'…
Por qué importaRevela que las medidas de seguridad de un proveedor de IA no se extienden automáticamente a las plataformas cloud que revenden sus modelos, creando…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.