IBM presenta LLMON, un lenguaje de marcado nativo para LLM que reduce la inyección de prompts
Hecho Qué ha ocurrido
IBM Granite presenta LLMON, un lenguaje de marcado nativo para LLM, y publica dos modelos experimentales basados en Granite 4.1 de 3B y 8B parámetros entrenados para consumirlo y generarlo. El artículo afirma que los modelos reducen casi por completo los ataques de inyección indirecta de prompts en el benchmark OPI, manteniendo un rendimiento general similar al de Granite 4.1 Instruct. También se publica un repositorio con herramientas de conversión desde JSON.
Resumen generado mediante IA a partir de Hugging Face (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si los resultados se confirman, separar instrucciones y datos a nivel de tokens podría reducir un riesgo de seguridad relevante en agentes que procesan documentos o respuestas de herramientas. Los resultados son propios de IBM y se limitan a benchmarks concretos.
- Quién se ve afectado
- Equipos que desarrollan agentes o aplicaciones RAG con modelos abiertos y que manejan datos no confiables.
- Qué puede cambiar
- Si la técnica se generaliza, las arquitecturas de prompts podrían estructurarse con bloques direccionables en lugar de texto plano o JSON, con menor exposición a inyecciones indirectas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Validación independiente de los resultados de robustez, extensión a ataques adaptativos de varios turnos (que IBM aún no resuelve) y adopción fuera del ecosistema Granite.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Hugging Face (fuente primaria). La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentesRAG IBM Hugging Face IBM Granite inyección de prompts LLMON
Relacionadas
IBM lanza Granite 4.1, modelos LLM open source de 3B a 30B parámetros
IBM ha publicado la familia Granite 4.1 de modelos de lenguaje bajo licencia Apache 2.0, disponibles en tamaños de 3B, 8B y 30B parámetros. Unsloth ha liberado…
Por qué importaLa disponibilidad de modelos open source de tamaño reducido permite a empresas y desarrolladores ejecutar IA generativa en infraestructura propia sin…
IBM Granite 4.2: modelos de razonamiento con capacidad de agentes y contexto de 512K
IBM ha lanzado Granite 4.2, una familia de modelos de lenguaje densos enfocados en razonamiento, disponibles en tres tamaños: 3B, 8B y 30B. Los modelos se…
Por qué importaGranite 4.2 representa un hito en modelos abiertos de razonamiento y capacidad de agentes autónomos, con contexto extremadamente largo y…
IBM lanza Granite Embedding Multilingual R2 con soporte de 200+ idiomas y contexto de 32K tokens
IBM ha publicado dos nuevos modelos de embeddings multilingües bajo licencia Apache 2.0: granite-embedding-311m-multilingual-r2 y…
Por qué importaPara empresas que operan con múltiples idiomas o corpus multilingües, estos modelos resuelven la tensión histórica entre cobertura de idiomas y…
IBM lanza Mellea 0.4.0 y tres Granite Libraries para flujos de trabajo deterministas
IBM Research ha publicado Mellea 0.4.0, una librería Python de código abierto para programas generativos, junto con tres Granite Libraries especializadas…
Por qué importaPara equipos que desarrollan aplicaciones LLM en producción, especialmente en sectores regulados, estas herramientas ofrecen un camino hacia mayor…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.