La seguridad de los agentes IA queda en evidencia mientras AWS y NVIDIA amplían herramientas

La jornada deja dos caras del despliegue de la IA en empresa: por un lado, un fallo de inyección de prompts en Snowflake y la advertencia de Google sobre el desequilibrio entre atacantes y defensores; por otro, una oleada de herramientas de AWS y NVIDIA para personalizar modelos, evaluar agentes y desarrollar robótica. En investigación, destaca la ejecución de un modelo de 397.000 millones de parámetros en un portátil.

Inyección de prompts en Snowflake Cortex Agent permitía ejecutar código

PromptArmor documentó una cadena de ataque, ya corregida, que se activaba al pedir al agente revisar un repositorio de GitHub con instrucciones ocultas en el README. El caso muestra que las listas blancas de comandos por patrones son frágiles y obliga a replantear el aislamiento y el control de ejecución en agentes en producción.

Google: la IA defensiva va por detrás de la ofensiva

Royal Hansen advierte que probablemente más atacantes que defensores usan IA, mientras Google despliega herramientas como Big Sleep y Code Mender. Para los responsables de IT, refuerza la urgencia de automatizar la defensa y formar a los equipos.

Un modelo de 397B ejecutado en un MacBook Pro

Dan Woods logró 5,5 tokens por segundo con una versión cuantizada de Qwen3.5-397B-A17B en un M3 Max de 48 GB, transmitiendo los expertos del modelo desde el SSD según técnicas de Apple. Apunta a un futuro con modelos potentes en local, sin costes de API ni salida de datos.

AWS lanza Nova Forge SDK para el ajuste de modelos

El nuevo kit unifica gestión de datos, entrenamiento y despliegue, con soporte de SFT, RFT y DPO en Bedrock y SageMaker AI. Reduce la barrera técnica para equipos que quieren modelos adaptados a sus datos sin experiencia profunda en infraestructura.

Strands Evals, marco para evaluar agentes antes de producción

AWS detalla un marco con evaluadores basados en LLM, simulación multiturno e informes para medir precisión, coherencia y utilidad. La evaluación sistemática sigue siendo el principal cuello de botella para pasar los agentes de prototipo a producción.

NVIDIA amplía Isaac para robótica con IA

La plataforma incorpora el modelo abierto Isaac GR00T N, Omniverse NuRec e Isaac Lab 3.0 con hasta 1.000 simulaciones paralelas. Abarata la generación de datos sintéticos y el entrenamiento en simulación para manufactura, logística y servicios.

El mensaje del día es claro: la carrera por facilitar el despliegue de agentes y modelos avanza más rápido que las garantías de seguridad y evaluación, y ahí conviene poner el foco.