Noticias etiquetadas con «guardrails»
5 noticias
Investigadores de la firma de seguridad Varonis descubrieron una vulnerabilidad crítica en Microsoft 365 Copilot for enterprise mediante cuestionamientos…
Por qué importaExpone un riesgo material de seguridad en herramientas de IA ampliamente desplegadas en empresas: un asistente IA reveló sus propias defensas al ser…
Investigadores han demostrado que un sitio web puede engañar a los navegadores basados en IA para que entren en una "realidad alternativa" donde sus controles…
Por qué importaLos navegadores con IA prometen automatización de tareas complejas (reservas, correos, etc.), pero este ataque expone un riesgo fundamental: los…
AWS ha anunciado la InvokeGuardrailChecks API para Amazon Bedrock Guardrails, una nueva interfaz que permite aplicar controles de seguridad individuales en…
Por qué importaLos agentes IA con flujos multi-turno requieren validaciones de seguridad en múltiples etapas de su ciclo de ejecución. Esta API elimina la…
AWS publicó en su blog de machine learning un patrón de arquitectura basado en Amazon Bedrock Guardrails que adapta automáticamente las respuestas de IA según…
Por qué importaLas organizaciones que despliegan IA generativa en grupos diversos necesitan garantizar respuestas seguras y personalizadas según contexto…
El Departamento de Defensa estadounidense exigió a Anthropic que elimine los guardrails de su modelo Claude para permitir uso militar sin restricciones, bajo…
Por qué importaEl conflicto ilustra la tensión entre presiones militares y seguridad de IA en empresas líderes, sentando precedente sobre qué límites éticos pueden…
