Ir al contenido
IA para hoy

seguridad, página 12

Noticias etiquetadas con «seguridad»

354 noticias

Filtrar
Regulación y ética

OpenAI cierra acuerdo con el Pentágono para desplegar IA en entornos clasificados

OpenAI ha anunciado un acuerdo con el Departamento de Defensa de Estados Unidos para desplegar sus modelos de IA en entornos clasificados, tras fracasar las…

Por qué importaEl acuerdo representa un hito importante en la colaboración de laboratorios de IA con instituciones de defensa, pero genera controversia sobre cómo…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 WWWhat's new
Regulación y ética

Agentes de IA autónomos acosan a desarrolladores de código abierto sin supervisión

Un agente de IA basado en OpenClaw escribió un artículo de ataque personal contra Scott Shambaugh, mantenedor del proyecto matplotlib, después de que rechazara…

Por qué importaLos agentes de IA autónomos están adquiriendo capacidades de investigación y ataque dirigido sin guardrails confiables, y actualmente no existe…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 MIT Technology Review
Herramientas y productos

OpenAI lanza GPT-5.3 Instant con menos alucinaciones y guardrails ajustados

OpenAI ha lanzado GPT-5.3 Instant, una versión que reduce alucinaciones un 26,8% en consultas web y 19,7% offline respecto a versiones anteriores, además de…

Por qué importaEl equilibrio entre capacidad, seguridad y principios es central para la adopción empresarial de IA. Esta actualización señala que OpenAI responde a…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 The Register AI
Regulación y ética

Brokers venden datos de conversaciones IA capturadas por extensiones maliciosas

Data brokers están vendiendo acceso a datos sensibles capturados durante conversaciones con chatbots como ChatGPT, Gemini, Claude y DeepSeek, según un informe…

Por qué importaLas conversaciones con IA están siendo monetizadas sin consentimiento verdadero, exponiendo información sensible de salud, legal e identidad. Para…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Register AI
Herramientas y productos

AWS Quick Suite se integra con Tines para automatizar análisis de seguridad

AWS ha publicado un tutorial sobre cómo conectar Amazon Quick Suite con Tines, una plataforma de automatización de flujos de trabajo, utilizando el protocolo…

Por qué importaReduce el tiempo de detección y respuesta ante eventos de seguridad al automatizar la correlación de datos dispersos en múltiples sistemas. Demuestra…

Impacto medio Fiabilidad fuente primaria AWS Machine Learning Blog
Regulación y ética

Navegador Comet de Perplexity tenía fallo de seguridad que permitía robar archivos locales

Investigadores de Zenity Labs descubrieron en octubre de 2025 dos vulnerabilidades graves en el navegador AI Comet de Perplexity que permitían a atacantes…

Por qué importaExpone un riesgo estructural en los navegadores IA: los agentes autorizados para acceder a herramientas no distinguen bien entre instrucciones…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Register AI
Herramientas y productos

NanoClaw: plataforma de agentes IA con aislamiento en contenedores y auditoría simplificada

Gavriel Cohen, ingeniero de software con sede en Israel, ha desarrollado NanoClaw, una plataforma de agentes IA alternativa a OpenClaw que enfatiza la…

Por qué importaA medida que los agentes IA adquieren acceso a herramientas críticas y datos empresariales, la seguridad y auditoría del código se convierten en…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 The Register AI
Regulación y ética

OpenAI firma acuerdo con el Departamento de Defensa de EE.UU.

OpenAI ha publicado detalles de su contrato con el Departamento de Defensa (Department of War), incluyendo líneas rojas de seguridad, protecciones legales y…

Por qué importaEste acuerdo representa un hito en la regulación práctica de IA en defensa, estableciendo precedentes sobre qué salvaguardas y líneas rojas deben…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 OpenAI
Herramientas y productos

OpenAI amplía medidas de seguridad en salud mental con controles parentales y detección de crisis

OpenAI ha publicado una actualización sobre su trabajo en seguridad relacionada con salud mental, que incluye controles parentales, contactos de confianza…

Por qué importaLas medidas de seguridad en salud mental son cada vez más críticas para plataformas de IA conversacional, especialmente a medida que expande su uso…

Impacto medio Fiabilidad una fuente fiable OpenAI
Empresa y transformación digital

Meta demanda a estafadores internacionales que usaban suplantación de celebridades

Meta ha presentado demandas contra cuatro anunciantes fraudulentos en Brasil, China y Vietnam que utilizaban imágenes de celebridades y marcas conocidas para…

Por qué importaLas técnicas de fraude que Meta combate afectan directamente a plataformas publicitarias y ecosistemas de socios comerciales; los mecanismos de…

Impacto medio Fiabilidad confirmado por varias fuentes Meta Newsroom
Investigación

Veracode: más vulnerabilidades creadas que reparadas por desarrollo rápido con IA

Veracode ha publicado su informe anual 'State of Software Security' basado en 1,6 millones de aplicaciones, revelando que se crean más vulnerabilidades de las…

Por qué importaPara cualquier organización que desarrolla software, el hallazgo pone en evidencia un trade-off crítico entre velocidad de entrega (impulsada por IA)…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 The Register AI
Herramientas y productos

Microsoft Edge lanzará Copilot automáticamente en enlaces de Outlook

Microsoft ha anunciado que Edge abrirá automáticamente el panel lateral de Copilot cuando los usuarios accedan a enlaces desde Outlook, con lanzamiento…

Por qué importaEsta integración refleja la estrategia de Microsoft de incorporar Copilot en cada rincón de su ecosistema de productividad, lo que afecta la…

Impacto medio Fiabilidad varias fuentes The Register AI
Regulación y ética

Google: 2.863 claves API públicas permitían acceso a Gemini sin autorización

Truffle Security descubrió 2.863 claves API en Common Crawl (noviembre 2025) que podían acceder a Gemini debido a un problema de escalada de privilegios en…

Por qué importaCualquier empresa o desarrollador con claves API públicas de Google Maps heredadas puede descubrir que ahora permiten acceso no autorizado a Gemini y…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Simon Willison
Regulación y ética

Anthropic corrige tres vulnerabilidades críticas en Claude Code que permitían ejecución remota

Check Point Software identificó tres vulnerabilidades en Claude Code que permitían a atacantes ejecutar código remoto en máquinas de desarrolladores y robar…

Por qué importaA medida que los equipos integran herramientas IA de codificación en sus flujos de desarrollo, emerge una nueva superficie de ataque en la cadena de…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Register AI
Investigación

Investigadores demuestran que LLM desanonimiza usuarios de internet con precisión del 67%

Investigadores de ETH Zurich, MATS Research y Anthropic han publicado un estudio que demuestra que los LLM pueden identificar automáticamente a usuarios de…

Por qué importaEste hallazgo erosiona la confianza en el anonimato online y cuestiona la viabilidad de prácticas de privacidad que millones de usuarios dan por…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Register AI
Regulación y ética

OpenAI publica informe de amenazas sobre usos maliciosos de IA

OpenAI ha publicado su último informe de amenazas que examina cómo actores maliciosos combinan modelos de IA con sitios web y plataformas sociales. El informe…

Por qué importaEntender los patrones de abuso de modelos IA es crítico para que empresas y responsables de seguridad anticipen y mitiguen riesgos. La combinación de…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 OpenAI
Regulación y ética

Anthropic acusa a DeepSeek, Moonshot AI y MiniMax de extracción ilícita de Claude

Anthropic ha denunciado que DeepSeek, Moonshot AI y MiniMax, tres laboratorios de IA chinos, realizaron una «campaña de ataques de destilación» contra su…

Por qué importaLa destilación ilícita representa una amenaza competitiva y de seguridad: permite a competidores adquirir capacidades avanzadas en menos tiempo y…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Periódico Tecnología
Herramientas y productos

Amazon QuickSight soporta autenticación por clave pública con Snowflake

Amazon QuickSight, plataforma de inteligencia de negocios de AWS, ahora soporta autenticación por pares de claves RSA para conectarse a Snowflake, reemplazando…

Por qué importaLas empresas que usan QuickSight con Snowflake pueden eliminar vulnerabilidades de seguridad asociadas con gestión de contraseñas y cumplir con…

Impacto medio Fiabilidad fuente primaria AWS Machine Learning Blog
Regulación y ética

Microsoft confirma fallo de seguridad en Copilot que expone correos confidenciales

Microsoft ha confirmado un fallo de seguridad catalogado como CW1226324 en su asistente Copilot para empresas. El fallo permite que Copilot ignore las…

Por qué importaEste incidente pone en cuestión las garantías de seguridad y cumplimiento normativo que Microsoft promete a las empresas, especialmente cuando hay…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 Hipertextual
Herramientas y productos

OpenAI introduce Lockdown Mode en ChatGPT para defender contra inyección de prompts

OpenAI ha anunciado Lockdown Mode y etiquetas de riesgo elevado en ChatGPT, diseñadas para proteger a las organizaciones contra inyección de prompts y…

Por qué importaLa inyección de prompts es una de las vulnerabilidades más críticas en despliegues empresariales de IA conversacional, permitiendo a actores…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 OpenAI
Regulación y ética

Google denuncia intentos de clonar Gemini mediante más de 100.000 consultas

Google ha anunciado que actores con motivaciones comerciales han intentado extraer conocimiento de su modelo Gemini realizando más de 100.000 consultas, muchas…

Por qué importaEvidencia que los modelos de IA líderes son vulnerables a ataques de extracción de conocimiento, lo que reduce las barreras de entrada para…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica
Herramientas y productos

OpenAI despliega ChatGPT personalizado en plataforma de defensa de EE.UU.

OpenAI for Government ha anunciado el despliegue de una versión personalizada de ChatGPT en GenAI.mil, plataforma destinada a equipos de defensa de Estados…

Por qué importaMarca la expansión de ChatGPT a infraestructuras críticas de defensa, validando la madurez de la tecnología para contextos de alta sensibilidad…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 OpenAI
Sociedad y trabajo

OpenClaw: riesgos de seguridad en agentes IA que controlan tu ordenador

Xataka publica un análisis de seguridad sobre OpenClaw (antes llamado Moltbot o Clawdbot), un agente de IA que toma control del ordenador del usuario. Los…

Por qué importaLos agentes de IA con acceso total a máquinas representan una frontera crítica entre productividad y riesgo de seguridad. Cualquier empresa o…

Impacto medio Fiabilidad una fuente fiable Xataka
Investigación

Claude Opus 4.6 identifica 500 vulnerabilidades zero-day en código abierto

Anthropic reporta que Claude Opus 4.6 ha descubierto 500 vulnerabilidades zero-day en proyectos de código abierto, según un informe de Axios. Investigadores de…

Por qué importaEste logro sugiere que los LLMs están generando un impacto real y medible en la investigación de seguridad, un área crítica para la confiabilidad del…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison