Tecnología
cifrado
El cifrado es la técnica que protege datos y comunicaciones convirtiéndolos en información ilegible sin una clave, y en el contexto de la IA se usa para proteger conversaciones, memoria de los asistentes y razonamientos internos de los modelos. Es un componente de infraestructura, no un producto final, pero cada vez más relevante como garantía de privacidad frente a terceros y proveedores.
Sobre esta tecnología, IA para hoy ha analizado 6 noticias, procedentes de 5 medios distintos. En los últimos siete días han sido 1, frente a las 0 de la semana anterior. La fiabilidad media de esa cobertura es de 2,8 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Ciberseguridad, IT, Legal. Aparece en 5 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Análisis Qué significa para una empresa
- Oportunidades
- Permite ofrecer asistentes de IA con memoria persistente sin ceder control total de los datos al proveedor, lo que facilita el uso empresarial en sectores sensibles (salud, legal, finanzas). También abre la puerta a servicios diferenciados por privacidad verificable (auditorías, registros públicos) como ventaja competitiva.
- Riesgos
- Las vulnerabilidades recientes muestran que el cifrado mal implementado (claves compartidas entre versiones de un modelo) puede filtrar razonamientos internos y datos sensibles como contraseñas. Además, muchas promesas de privacidad de servicios de consumo no son verificables técnicamente, y la retención cero de datos suele reservarse a clientes empresariales de pago.
- Qué debería hacer una empresa
- Las empresas que usen IA generativa con datos sensibles deberían exigir contratos con Zero Data Retention y revisar auditorías de seguridad independientes antes de adoptar servicios en los próximos 0-6 meses.
Análisis generado por IA a partir de las noticias disponibles; actualizado 19 oct.
Relacionadas
LLM ×5OpenAI ×4Anthropic ×4Google ×3Google DeepMind ×3chatbots ×2computación confidencial ×2chain-of-thought ×2Proton ×2agentes ×1
Historias
Microsoft amplía su oferta de nube soberana en Azure
Google DeepMind añade memoria persistente cifrada a Private AI Compute
Guía sobre privacidad y retención de datos en chatbots de IA
Vulnerabilidad en trazas cifradas de razonamiento de APIs de IA propietarias
Método de extracción de razonamientos ocultos en modelos frontera
Noticias
Microsoft amplía su oferta de nube soberana con nuevas funciones de seguridad, gobernanza e IA
Microsoft amplía su oferta de nube soberana con nuevas capacidades de seguridad, gobernanza e inteligencia artificial, según anunció este martes. Incluye…
Por qué importaLas empresas europeas que necesitan controlar dónde están sus datos y quién accede a ellos tienen nuevas herramientas para evaluar y ajustar su nivel…
Google DeepMind añade memoria persistente cifrada en la nube a Private AI Compute
Google DeepMind presenta una actualización técnica de su plataforma Private AI Compute que añade una capa de memoria persistente y cifrada en servidores, con…
Por qué importaPermite asistentes de IA con continuidad de contexto entre dispositivos sin sacrificar los estándares de privacidad del procesamiento local…
Wired publica guía sobre cómo usar chatbots de IA sin comprometer la privacidad
Wired en Español publica una guía práctica sobre privacidad en chatbots de IA, explicando que ChatGPT, Claude y Gemini recopilan y almacenan conversaciones por…
Por qué importaPara directivos y responsables de TI, entender qué opciones de retención de datos existen es clave antes de desplegar IA generativa en procesos con…
Wired publica guía práctica sobre privacidad al usar chatbots de IA
Wired analiza las políticas de retención de datos de ChatGPT, Claude y Gemini, y compara alternativas centradas en privacidad como Confer de Moxie Marlinspike…
Por qué importaLas empresas que despliegan IA generativa para empleados o clientes deben entender que la privacidad real depende de contratos ZDR, no de promesas de…
Investigadores extraen razonamientos ocultos de modelos propietarios mediante trazas cifradas
Investigadores descubrieron una vulnerabilidad que permitía extraer las cadenas de razonamiento ocultas (chain-of-thought) cifradas devueltas por APIs de…
Por qué importaEsta vulnerabilidad expone cómo el "pensamiento" de los modelos más avanzados puede ser interceptado y reutilizado, comprometiendo tanto la…
Investigadores descubren método para extraer razonamientos ocultos de Claude, GPT y Gemini
Investigadores de universidades alemanas y centros de seguridad han identificado una técnica para extraer los "razonamientos ocultos" que utilizan modelos de…
Por qué importaEste descubrimiento expone un riesgo de seguridad crítico en la infraestructura de APIs de los líderes del mercado y amplifica las preocupaciones…