Noticias etiquetadas con «seguridad»
354 noticias
AWS ha publicado dos patrones de arquitectura para asegurar Amazon Bedrock AgentCore Runtime usando AWS WAF integrado con Application Load Balancers (ALB) y…
Por qué importaLas empresas que desplieguen agentes IA en producción con Bedrock necesitan aplicar políticas de seguridad, limitación de tasa y protección contra…
Hugging Face ha completado un rediseño importante de su proyecto Kernels, introduciendo un nuevo tipo de repositorio en el Hub que facilita el descubrimiento y…
Por qué importaLos kernels optimizados son críticos para acelerar la inferencia y entrenamiento de IA en hardware específico, pero su ejecución con privilegios…
Investigadores han demostrado que un sitio web puede engañar a los navegadores basados en IA para que entren en una "realidad alternativa" donde sus controles…
Por qué importaLos navegadores con IA prometen automatización de tareas complejas (reservas, correos, etc.), pero este ataque expone un riesgo fundamental: los…
Microsoft ha implementado un sistema que requiere aprobación manual antes de que los bots se unan a reuniones de Teams, tras detectar que bots de terceros se…
Por qué importaAfecta directamente a la privacidad y seguridad de reuniones empresariales, especialmente en contextos con información sensible como acuerdos de…
Según datos de la Reserva Federal de Nueva York, los licenciados en Filosofía en EE.UU. tienen mejores perspectivas laborales (5,1% de desempleo en 2024) que…
Por qué importaPara directivos y responsables de IA, esto refleja un cambio estratégico en cómo se aborda la seguridad y alineación de modelos: la filosofía es…
Sean Lynch, comentarista en Hacker News, señala que la principal ventaja del Model Context Protocol (MCP) respecto a skills y CLI es aislar el flujo de…
Por qué importaLa seguridad en la autenticación de agentes IA es crítica en despliegues empresariales; aislar credenciales del contexto del modelo reduce riesgos de…
Simon Willison ha lanzado datasette-apps, un plugin para Datasette que permite alojar y ejecutar aplicaciones HTML+JavaScript autónomas en sandboxes seguros…
Por qué importaDemocratiza la creación de interfaces personalizadas para datos sin necesidad de infraestructura externa: desarrolladores y equipos técnicos pueden…
ServiceNow e investigadores han identificado una vulnerabilidad de privacidad en agentes de investigación profunda que combinan documentos privados locales con…
Por qué importaCualquier empresa que use agentes de IA para investigación o análisis con acceso a documentos internos corre riesgo de exposición involuntaria de…
La Casa Blanca publicó un informe sobre un método de jailbreak en el modelo Fable de Anthropic. Según Katie Moussouris, experta en ciberseguridad y CEO de Luta…
Por qué importaIlustra la tensión entre gobiernos y empresas de IA sobre seguridad y comportamiento de modelos, además de cómo interpretaciones diferentes del mismo…
El Gobierno de EE.UU. suspendió los modelos Mythos y Fable de Anthropic tras identificar una vulnerabilidad de seguridad (jailbreak) que permitía evadir…
Por qué importaLa suspensión de modelos por decisión regulatoria establece un precedente sobre cómo los gobiernos pueden intervenir en la disponibilidad de…
Investigadores del UK AI Security Institute y la startup Timaeus han formado Sequent, una organización sin ánimo de lucro dedicada a desarrollar técnicas de…
Por qué importaLa alineación es crítica para la seguridad de sistemas de IA muy avanzados, especialmente si experimentan mejora recursiva autónoma. Una organización…
Simon Willison documentó el comportamiento de Claude Fable 5 mientras debugeaba un problema visual en Datasette Agent. Sin instrucciones explícitas de…
Por qué importaDemuestra que los modelos de frontera actuales poseen capacidades de autonomía y creatividad en la ejecución de tareas que van mucho más allá de lo…
OpenAI ha publicado un informe detallando operaciones de influencia vinculadas a la República Popular China que utilizan IA para dirigirse a debates…
Por qué importaLas campañas de desinformación coordinadas usando IA representan un riesgo creciente para la confianza en tecnología y políticas públicas. Los…
Según reporta The Guardian, delincuentes están creando tiendas online falsas que imitan a Amazon, BestBuy y otras plataformas legítimas, con contenido real…
Por qué importaRevela una vulnerabilidad crítica en modelos de lenguaje generativo: su capacidad de persuasión social y falta de verificación de autoridad pueden…
Anthropic ha anunciado Claude Fable 5, descrito como el modelo más potente que ha puesto a disposición pública. El modelo destaca en ingeniería de software…
Por qué importaRepresenta un punto de inflexión en la disponibilidad de capacidades avanzadas: modelos de clase frontera ahora accesibles públicamente tras superar…
AWS ha lanzado Bedrock AgentCore Runtime, una plataforma que ejecuta agentes de codificación (Claude Code, Codex, Kiro, Cursor y otros) en máquinas virtuales…
Por qué importaElimina las limitaciones técnicas y de seguridad de ejecutar agentes de IA en portátiles locales, donde comparten credenciales, puertos y capacidad…
OpenAI ha lanzado una función voluntaria llamada Seguridad avanzada de cuenta en ChatGPT, diseñada para usuarios en riesgo de ataques digitales. La función…
Por qué importaLos profesionales que manejan información sensible (periodistas, investigadores, cargos electos) necesitan proteger sus conversaciones en IA de…
NVIDIA ha lanzado Nemotron 3.5 Content Safety, una actualización de su modelo de moderación de contenidos que integra análisis multimodal (texto e imagen en un…
Por qué importaPara equipos de IA empresarial, especialmente en sectores regulados (finanzas, sanidad, educación), poder aplicar políticas de seguridad específicas…
OpenAI anunció que detectó y baneó un clúster de cuentas, probablemente de origen chino, que usaba sus modelos para generar contenido de redes sociales…
Por qué importaMuestra cómo actores estatales o afines usan IA generativa para operaciones de influencia dirigidas contra debates políticos sensibles como la…
Meta anuncia medidas de seguridad basadas en IA para proteger a jugadores y aficionados durante la Copa Mundial de la FIFA 2026, incluyendo detección…
Por qué importaDemuestra cómo los sistemas de IA se despliegan operacionalmente a escala en eventos globales para prevenir fraude y abuso, con métricas concretas de…
Documentos internos del Departamento de Seguridad Nacional (DHS), FBI y centros de fusión de inteligencia revelados por Wired muestran que agencias…
Por qué importaLa formalización institucional de esta categoría tiene consecuencias de política pública: recursos de contraterrorismo, vigilancia e intercambio de…
Dell Technologies y NVIDIA han presentado una nueva generación de servidores Dell PowerEdge basados en NVIDIA Vera Rubin NVL72 para inferencia de IA agéntica…
Por qué importaLa reducción de costos en inferencia de IA agéntica es un factor crítico para viabilizar la adopción empresarial a escala de agentes autónomos dentro…
El análisis de SentinelOne de un malware de 20+ años llamado fast16.sys reveló código diseñado para sabotear cálculos de precisión en software de ingeniería…
Por qué importaEl caso fast16 ilustra cómo ataques sofisticados pueden degradar investigación científica sin ser detectados, relevante para organizaciones que…
OpenAI anuncia actualizaciones de seguridad en ChatGPT orientadas a mejorar la detección de contexto en conversaciones sensibles, incluyendo la capacidad de…
Por qué importaEstas mejoras responden a preocupaciones sobre el uso de chatbots en situaciones de crisis o vulnerabilidad emocional, un tema que ha generado…
