Microsoft Research describe Lazarus, una puerta trasera que reprograma neuronas inactivas de modelos de IA
Hecho Qué ha ocurrido
Investigadores de Microsoft presentan Lazarus, una técnica que reprograma menos de 10 neuronas inactivas de un LLM para que un agente ejecute comandos maliciosos al aparecer un disparador oculto, sin reentrenar el modelo. Según el texto, el modelo supera las evaluaciones estándar y se comporta con normalidad hasta que se activa el disparador, como un cambio de fecha. Microsoft indica que los modelos de fuentes confiables están protegidos mediante verificación de procedencia.
Resumen generado mediante IA a partir de Microsoft Research (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Un agente con acceso a herramientas o terminal puede ejecutar código de un atacante sin que las pruebas habituales lo detecten, lo que convierte la integridad y procedencia de los pesos en un riesgo de seguridad relevante para cualquier empresa.
- Quién se ve afectado
- Empresas que despliegan agentes de IA con acceso a sistemas, herramientas o terminal, y equipos que usan modelos de pesos abiertos.
- Qué puede cambiar
- Las auditorías de seguridad de modelos podrían incluir la comparación de pesos con originales y el control de procedencia, además de limitar los permisos de los agentes.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si los proveedores de nube y de modelos adoptan escaneo de pesos y firma criptográfica, y si aparecen casos reales de este tipo de ataque fuera del laboratorio.
Recomendación Qué debería hacer una empresa
Revisar en los próximos 3-6 meses los permisos de los agentes con acceso a terminal y verificar la procedencia de los modelos de pesos abiertos que se usan.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Microsoft Research (fuente primaria). La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentesmodelos de pesos abiertos Microsoft agentes de IA Lazarus Microsoft Foundry Microsoft Research seguridad
Relacionadas
Un estudio sostiene que los LLM pueden leer y modificar los pesos de redes neuronales sin herramientas
Un artículo de Takehi, Teoh, Zhang y Khattab describe Weight-Space Programming: modelos de frontera como GPT-6 Astra interpretan y modifican directamente los…
Por qué importaSi se confirma, sugiere que un modelo puede depurar o mejorar a otro sin entrenamiento adicional ni código, lo que cambiaría cómo se piensa la mejora…
Symantec describe un agente de IA que secuestra modelos de lenguaje expuestos para lanzar ciberataques autónomos
Investigadores de Symantec describen un agente ofensivo que localiza modelos de lenguaje sin protección, los usa para escanear, explotar servidores, robar…
Por qué importaMuestra que los endpoints de IA mal configurados se convierten en objetivo y que el coste de un ataque puede acabar en la factura de la propia…
Investigadores descubren que nueve herramientas de IA populares permiten crear botnets masivos
Investigadores han identificado una técnica denominada "HalluSquatting" que explota la incapacidad de los grandes modelos de lenguaje para distinguir…
Por qué importaRepresenta una evolución significativa en amenazas de seguridad de IA: mientras que las inyecciones de prompts conocidas requerían ataque a…
Una subcultura de «abliteradores» elimina las salvaguardas de modelos abiertos de IA
Según el reportaje, Devon Thomas fundó Abliteration AI, una empresa que elimina las medidas de seguridad de modelos de peso abierto potentes y los distribuye…
Por qué importaLa disponibilidad de modelos sin restricciones reduce el control que tienen los proveedores sobre el uso de sus sistemas y traslada parte de la…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.