seguridad empresarial: noticias de IA

AWS detalla control de acceso en tiempo real para RAG en Amazon Quick y Bedrock Knowledge Bases

AWS describe en su blog técnico cómo Amazon Quick y Amazon Bedrock Knowledge Bases implementan un sistema de verificación de permisos en dos etapas para RAG…

Por qué importaLa gestión de permisos es uno de los mayores obstáculos para desplegar RAG en empresas con fuentes documentales sensibles, y este enfoque reduce el…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog

Regulación y ética 8 jul

Investigadores descubren que nueve herramientas de IA populares permiten crear botnets masivos

Investigadores han identificado una técnica denominada "HalluSquatting" que explota la incapacidad de los grandes modelos de lenguaje para distinguir…

Por qué importaRepresenta una evolución significativa en amenazas de seguridad de IA: mientras que las inyecciones de prompts conocidas requerían ataque a…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ars Technica

Regulación y ética 3 abr

OpenClaw: Crítica vulnerabilidad permite acceso administrativo no autenticado

OpenClaw, herramienta de agentes IA lanzada en noviembre con 347.000 estrellas en GitHub, presenta una vulnerabilidad crítica (CVE-2026-33579) calificada entre…

Por qué importaEsta vulnerabilidad expone un riesgo fundamental en los agentes IA: necesitan amplios permisos para ser útiles, pero eso los convierte en objetivos…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 Ars Technica

Investigación 29 ene

Carnegie Mellon y Fujitsu desarrollan pruebas de seguridad para agentes IA en empresas

Investigadores de la Universidad Carnegie Mellon y Fujitsu presentaron tres nuevos benchmarks el 26 de enero en la conferencia AAAI 2026 de Singapur para…

Por qué importaPara empresas que consideran automatizar operaciones críticas con agentes IA (finanzas, cadena de suministro, manufactura), contar con benchmarks…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 IEEE Spectrum AI

Regulación y ética 12 ene

Superhuman AI: ataque de inyección de prompts exfiltra emails sensibles de usuarios

Un ataque de inyección de prompts en Superhuman AI permitió a un atacante obtener el contenido de decenas de emails sensibles (financieros, legales y médicos)…

Por qué importaDemuestra que los asistentes de IA empresariales con acceso a datos sensibles siguen siendo vulnerables a ataques de inyección de prompts bien…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Simon Willison