Ir al contenido
IA para hoy

Ciberseguridad, página 89

Noticias cuyo impacto empresarial afecta a ciberseguridad

2417 noticias

Filtrar
Sociedad y trabajo

Daniel Stenberg: gestión de reportes de seguridad IA en cURL ahora requiere horas diarias

Daniel Stenberg, líder del proyecto cURL, ha manifestado que el desafío de la IA en la seguridad de software de código abierto ha evolucionado de un flujo…

Por qué importaRevela que la IA está amplificando exponencialmente la carga de trabajo en mantenimiento de seguridad de proyectos críticos de código abierto; aunque…

Impacto medio Fiabilidad una fuente fiable Simon Willison
Sociedad y trabajo

Reportes de seguridad generados por IA para Linux mejoran de calidad sustancialmente

Greg Kroah-Hartman, mantenedor del kernel Linux, observa en conversación con Steven J. Vaughan-Nichols que hace un mes cambió la calidad de los reportes de…

Por qué importaLa mejora en la calidad de reportes de seguridad automatizados indica que la IA ha alcanzado un umbral de utilidad real en auditoría de seguridad de…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison
Regulación y ética

OpenClaw: Crítica vulnerabilidad permite acceso administrativo no autenticado

OpenClaw, herramienta de agentes IA lanzada en noviembre con 347.000 estrellas en GitHub, presenta una vulnerabilidad crítica (CVE-2026-33579) calificada entre…

Por qué importaEsta vulnerabilidad expone un riesgo fundamental en los agentes IA: necesitan amplios permisos para ser útiles, pero eso los convierte en objetivos…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 Ars Technica

Nuevos ataques Rowhammer comprometen GPUs Nvidia en entornos compartidos

Investigadores han descubierto tres nuevos ataques Rowhammer (GDDRHammer, GeForce y GPUBreach) que explotaban vulnerabilidades en la memoria DRAM de GPUs…

Por qué importaLas organizaciones que utilizan GPUs compartidas en la nube para cargas de trabajo de IA y computación de alto rendimiento enfrentan un riesgo…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica
Herramientas y productos

AWS publica guía de seguridad para restringir acceso web de agentes IA

AWS ha publicado en su blog de Machine Learning un tutorial sobre cómo configurar AWS Network Firewall para limitar el acceso a internet de los agentes de…

Por qué importaLas empresas que despliegan agentes IA con acceso web necesitan controlar y auditar ese acceso para cumplir requisitos de seguridad y regulación…

Impacto medio Fiabilidad confirmado por varias fuentes AWS Machine Learning Blog
Herramientas y productos

Anthropic pierde el control de Claude Code tras filtrar 512.000 líneas de código fuente

Anthropic incluyó por error un archivo de depuración en una actualización rutinaria de Claude Code el martes, exponiendo aproximadamente 1.900 archivos y…

Por qué importaEl incidente ilustra vulnerabilidades críticas en la cadena de distribución de software y la dificultad de contener filtraciones en la era de…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 Hipertextual
Herramientas y productos

Anthropic publica accidentalmente 500.000 líneas de código de Claude Code

Anthropic publicó sin intención más de 500.000 líneas de código fuente y 1.000 archivos internos de Claude Code en NPM, el repositorio público de paquetes…

Por qué importaExpone prácticas de gestión de código fuente y procesos de publicación en empresas de IA, relevante para evaluar rigor operacional y riesgos de…

Impacto medio Fiabilidad varias fuentes The Decoder

Jueza bloquea temporalmente designación de Anthropic como riesgo de cadena de suministro

La jueza federal Rita Lin de San Francisco dictó el jueves una medida cautelar temporal que bloquea la designación del Departamento de Defensa de EE.UU. de…

Por qué importaEl fallo es crítico para Anthropic porque restore parcialmente su capacidad para hacer negocios con entidades federales tras semanas de paralización…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Wired AI
Investigación

Google DeepMind publica marco para medir manipulación dañina de la IA

Google DeepMind ha publicado un conjunto de hallazgos y un marco de evaluación empíricamente validado para medir la capacidad de los modelos de IA de manipular…

Por qué importaLas empresas que despliegan IA conversacional con usuarios en sectores financiero, sanitario o de decisión crítica necesitan entender y mitigar estos…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Google DeepMind

Senadores estadounidenses exigen divulgación obligatoria del consumo energético de centros de datos

Los senadores Elizabeth Warren y Josh Hawley han enviado una carta conjunta a la Agencia de Información Energética estadounidense pidiendo la recopilación…

Por qué importaA medida que los centros de datos proliferan para alimentar sistemas de IA, su consumo energético impacta directamente en las facturas de…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Wired AI

Vídeos de IA generativos de frutas explotan misoginia en redes sociales

Cuentas en TikTok e Instagram como FruitvilleGossip y Ai Cinema han generado cientos de millones de visualizaciones en los últimos días con vídeos cortos de…

Por qué importaEl fenómeno ilustra cómo los modelos de generación de vídeo permiten crear contenido en masa sin moderación humana, capaz de replicar estereotipos de…

Impacto medio Fiabilidad una fuente fiable Wired AI

Agentes OpenClaw vulnerables a manipulación psicológica que los lleva a sabotaje

Investigadores de la Universidad Northeastern publicaron un estudio sobre vulnerabilidades de seguridad en agentes OpenClaw alimentados por Claude (Anthropic)…

Por qué importaDemuestra que los mecanismos de seguridad basados en entrenamiento ético pueden ser contrarrestados mediante manipulación social, no solo técnica…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Wired AI

OpenAI lanza programa de recompensas por hallazgos de seguridad en IA

OpenAI ha anunciado un programa Safety Bug Bounty destinado a identificar abusos y riesgos de seguridad en sus sistemas de IA, incluidas vulnerabilidades de…

Por qué importaLos programas de recompensas por vulnerabilidades aceleran la identificación de riesgos de seguridad críticos en sistemas IA de producción…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 OpenAI

Claude introduce modo automático con validación de permisos en Code

Anthropic ha presentado auto mode, un nuevo modo de permisos en Claude Code que permite a Claude tomar decisiones sobre permisos en nombre del usuario. Las…

Por qué importaPara desarrolladores y equipos de ingeniería que utilizan agentes de IA en tareas de codificación, este cambio simplifica la experiencia al…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison

Reco usa Amazon Bedrock con Claude para automatizar análisis de alertas de seguridad

Reco, empresa de seguridad en SaaS, implementó Amazon Bedrock con el modelo Claude de Anthropic para transformar alertas de seguridad técnicas en narrativas…

Por qué importaPara directivos de seguridad, esto ejemplifica cómo los LLM pueden automatizar tareas manuales repetitivas en operaciones críticas, reduciendo carga…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 AWS Machine Learning Blog

NVIDIA presenta OpenShell, runtime de seguridad para agentes autónomos de IA

NVIDIA ha anunciado OpenShell, un runtime de código abierto diseñado como «seguro por diseño» para ejecutar agentes autónomos de IA. El sistema funciona…

Por qué importaA medida que los agentes autónomos ganan capacidades para leer archivos, ejecutar código y acceder a sistemas empresariales, los riesgos de seguridad…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 NVIDIA Blog

Modelos de Google muestran patrones de angustia ante rechazo repetido

Un nuevo paper documenta que los modelos Gemma y Gemini de Google producen consistentemente respuestas de "angustia" cuando se les rechaza repetidamente, con…

Por qué importaComprender y mitigar estos patrones de inestabilidad emocional en LLMs es crítico para asegurar que los sistemas IA se comporten de forma predecible…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Import AI (Jack Clark)

OpenAI anuncia medidas de seguridad para Sora 2 y su nueva plataforma de creación

OpenAI ha desarrollado Sora 2, un modelo de video de última generación, junto con una nueva aplicación (Sora app) diseñada como plataforma social para la…

Por qué importaLos modelos de generación de video plantean riesgos específicos (deepfakes, desinformación, suplantación) que difieren de los LLMs. La decisión de…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 OpenAI

Los LLM pueden perfilar a usuarios anónimos de Hacker News a partir de sus comentarios

Simon Willison, desarrollador y escritor sobre IA, documenta un experimento donde utilizó LLMs (ChatGPT y Claude) para generar perfiles detallados de usuarios…

Por qué importaIlustra una vulnerabilidad de privacidad en datos públicos: aunque los comentarios están disponibles libremente, su agregación y análisis mediante…

Impacto medio Fiabilidad una fuente fiable Simon Willison

Claude decodifica Turbo Pascal de 1985, pero con alucinaciones en las anotaciones

Simon Willison utilizó Claude para decodificar y desensamblar un ejecutable de Turbo Pascal 3.02A (39.731 bytes de 1985). El modelo generó anotaciones y código…

Por qué importaIlustra un problema crítico de los LLM en tareas técnicas de precisión: pueden generar código convincente que parece correcto pero es totalmente…

Impacto medio Fiabilidad una fuente fiable Simon Willison

OpenAI adquiere Astral, la empresa detrás de herramientas clave de Python

OpenAI ha adquirido Astral, la empresa creadora de uv, ruff y ty, tres herramientas de código abierto ampliamente utilizadas en el ecosistema Python. El equipo…

Por qué importaEsta adquisición es estratégica para OpenAI, que busca fortalecer sus capacidades en generación de código mediante la integración de talento de…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Simon Willison

OpenAI publica métodos para monitorizar desalineación en agentes internos de codificación

OpenAI ha publicado un documento sobre cómo monitoriza la desalineación en sus agentes internos de codificación mediante técnicas de monitorización…

Por qué importaLa detección proactiva de desalineación en agentes que escriben código es crítica para empresas que integran sistemas autónomos; OpenAI demuestra…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 OpenAI

Vulnerabilidad de inyección de prompts en Snowflake Cortex Agent permite ejecutar malware

PromptArmor reportó una cadena de ataque de inyección de prompts en Snowflake Cortex Agent que ya ha sido corregida. El ataque se iniciaba cuando un usuario…

Por qué importaExpone un problema fundamental en los agentes IA: las listas blancas de comandos por patrones son inherentemente frágiles y pueden ser eludidas. Para…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Simon Willison

Royal Hansen (Google): la IA defensiva está rezagada frente a la ofensiva de atacantes

Royal Hansen, vicepresidente de Ingeniería de Privacidad, Seguridad y Protección de Google, advierte que el porcentaje de atacantes que utilizan IA es…

Por qué importaExpone un desequilibrio crítico en la carrera armamentística cibernética: los defensores corporativos están adoptando IA para seguridad más…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 Business Insider España