Investigadores descubren método para extraer razonamientos ocultos de Claude, GPT y Gemini
Hecho Qué ha ocurrido
Investigadores de universidades alemanas y centros de seguridad han identificado una técnica para extraer los "razonamientos ocultos" que utilizan modelos de IA frontera (Claude, GPT-5.6 Sol, Gemini) al resolver problemas complejos. El método aprovecha que las empresas ofrecen versiones más pequeñas del mismo modelo con la misma clave de descifrado pero menor alineamiento; al redirigir trazas de razonamiento cifradas a estos modelos débiles, revelan el pensamiento oculto. Los investigadores también demostraron que el método recupera información sensible como contraseñas y claves API, aunque las empresas ya han parchado esta vulnerabilidad específica.
Resumen generado mediante IA a partir de Wired AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Este descubrimiento expone un riesgo de seguridad crítico en la infraestructura de APIs de los líderes del mercado y amplifica las preocupaciones geopolíticas sobre la destilación de modelos estadounidenses por empresas chinas. Los directivos deben entender que sus consultas a APIs pueden revelar información de razonamiento que facilita la replicación o extracción de datos sensibles.
- Quién se ve afectado
- Empresas que utilizan APIs de OpenAI, Anthropic y Google para modelos frontera, especialmente aquellas que procesan información sensible o competitiva a través de estas plataformas.
- Qué puede cambiar
- Las empresas proveedoras de modelos deben replantear fundamentalmente cómo cifran y distribuyen trazas de razonamiento en APIs, no solo parchando vulnerabilidades específicas sino rediseñando la arquitectura. La viabilidad técnica de la destilación desde modelos cerrados aumenta significativamente.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar cómo evolucionan los parches de OpenAI, Anthropic y Google más allá de mitigaciones a corto plazo; si los investigadores revelan nuevos métodos de extracción; adopción de estas técnicas por laboratorios chinos en modelos como Kimi K3 o DeepSeek; y cambios en políticas de restricción de acceso a APIs que incluyan versiones pequeñas del mismo modelo.
Recomendación Qué debería hacer una empresa
Evaluar en los próximos 3-6 meses si los datos procesados vía APIs de modelos frontera podrían contener información competitiva y considerar arquitecturas alternativas (modelos internos, modelos abiertos auditados) para tareas críticas; solicitar transparencia a proveedores sobre mitigaciones permanentes.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Fuente original: Wired AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMreasoningchain-of-thoughtdestilacióncifrado APIsdestilacióngeopolítica-IAseguridadvulnerabilidad
Relacionadas
Corea del Sur lanza 'AI for All', chatbot nacional gratuito para reducir dependencia de OpenAI y Google
El Ministerio de Ciencia y TIC de Corea del Sur ha lanzado la iniciativa 'AI for All' para ofrecer un chatbot gratuito y sin límites de uso a todos los…
Por qué importaEs un ejemplo concreto de política industrial de soberanía en IA que combina financiación pública, requisitos de contenido local y despliegue masivo…
El decreto de Meloni sobre reconocimiento facial policial con IA preocupa a expertos
El Gobierno de Giorgia Meloni aprobó el 4 de agosto un decreto que adapta la legislación italiana al AI Act europeo, regulando el uso policial del…
Por qué importaMarca un precedente sobre cómo los Estados miembros interpretarán los márgenes de excepción del AI Act en vigilancia biométrica, lo que puede influir…
Seattle Times y Newsday demandan a OpenAI y Microsoft por infracción de derechos de autor
The Seattle Times y Newsday presentaron una demanda contra OpenAI y Microsoft alegando que usaron su periodismo como datos de entrenamiento sin permiso y que…
Por qué importaEl creciente volumen de demandas por derechos de autor contra OpenAI aumenta el riesgo legal y financiero de la compañía y podría condicionar cómo…
Autores denuncian reclamos indebidos de editoriales y agentes en el acuerdo de Anthropic
Tras el acuerdo de $1.500 millones de Anthropic por uso de libros pirateados para entrenar IA, autores reportan que editoriales y agentes literarios están…
Por qué importaExpone las dificultades prácticas de distribuir grandes acuerdos de compensación por IA cuando los registros de derechos son confusos o están…