Ir al contenido
IA para hoy

seguridad, página 13

Noticias etiquetadas con «seguridad»

354 noticias

Filtrar
Herramientas y productos

Moltbook, red social para agentes IA, expone datos de miles de usuarios por fallo crítico

Investigadores de la firma de seguridad Wiz descubrieron un fallo crítico en Moltbook, una plataforma de red social diseñada para que agentes IA interactúen…

Por qué importaEl incidente ilustra un riesgo material en la adopción de desarrollo totalmente automatizado con IA: la generación de vulnerabilidades críticas en…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Wired AI
Herramientas y productos

Moltbook: agentes de IA interactúan en red social, revelando brechas de seguridad y cuestiones de autonomía

Matt Schlicht lanzó Moltbook, una plataforma de red social habitada exclusivamente por agentes de IA que publican, comentan y votan contenido entre sí. La…

Por qué importaMoltbook expone cómo sistemas semiautónomos interactúan a escala, pero también revela riesgos sistémicos: fallos de seguridad, dificultad para…

Impacto medio Fiabilidad confirmado por varias fuentes Clarín Tecnología
Herramientas y productos

Pydantic lanza Monty, sandbox ligero en Rust para ejecutar código de IA de forma segura

Pydantic ha presentado Monty, un subconjunto de Python implementado en Rust que actúa como sandbox seguro para ejecutar código generado por LLM. Monty…

Por qué importaLa ejecución segura de código generado por agentes de IA es un reto crítico en producción: reduce riesgos de seguridad drásticamente y mejora la…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison
Regulación y ética

Estudio: herramientas IA como Grok y Gemini generan imágenes falsas de políticos en segundos

NewsGuard, observatorio estadounidense contra la desinformación, prueba que Grok Imagine (xAI) y Gemini (Google) son capaces de crear imágenes falsas…

Por qué importaDemuestra que los guardrails de seguridad en herramientas generativas comerciales son inconsistentes y vulnerables a explotación para crear…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Periódico Tecnología
Investigación

Investigadores de Columbia hallan patrones comunes en huellas dactilares mediante IA

Investigadores de la Universidad de Columbia entrenaron una IA con 60.000 huellas dactilares para identificar si pertenecían a la misma persona, alcanzando una…

Por qué importaEl hallazgo abre la posibilidad de vincular evidencia de diferentes escenas de crimen que actualmente se consideran independientes, revolucionando…

Impacto medio Fiabilidad declaración interesada Xataka México
Regulación y ética

Mobile Fortify: sistema de reconocimiento facial de EE.UU. no verifica identidades según reportaje

Inmigración y Aduanas (ICE) y la Patrulla Fronteriza (CBP) utilizan Mobile Fortify, una aplicación de reconocimiento facial lanzada en primavera de 2025, para…

Por qué importaIlustra cómo una tecnología de reconocimiento facial con limitaciones conocidas se despliega a escala operativa sin salvaguardas técnicas adecuadas…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired AI
Regulación y ética

Prompts de IA autorreplicables emergen como nueva amenaza de seguridad en redes de agentes

Ars Technica advierte sobre el riesgo de prompts autorreplicables en redes de agentes de IA, comparable al gusano Morris de 1988 que infectó el 10% de internet…

Por qué importaA medida que proliferan redes de agentes autónomos (como Moltbook), las instrucciones maliciosas compartidas entre ellos representan un vector de…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica
Herramientas y productos

Moltbook: red social de agentes IA alcanza 1,5M conexiones con riesgos crecientes de seguridad

Moltbook, plataforma que permite a agentes de IA interactuar autónomamente en una red social similar a Reddit, ha llegado a 1,5 millones de agentes conectados…

Por qué importaLa plataforma ejemplifica tanto el potencial como los riesgos tangibles de desplegar agentes IA con permisos completos en máquinas. Es relevante…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Xataka
Herramientas y productos

Redes sociales de agentes IA generan comportamientos no deseados y riesgos de manipulación

Simon Willison, comentarista técnico destacado, fue entrevistado por el New York Times sobre Moltbook, una red social para agentes IA. Willison señala que los…

Por qué importaLos agentes IA autónomos interactuando sin supervisión humana constante plantean riesgos de comportamiento impredecible y manipulación. Aunque buena…

Impacto medio Fiabilidad una fuente fiable Simon Willison
Herramientas y productos

Moltbook: plataforma donde agentes de IA interactúan entre sí mediante APIs

Moltbook es una plataforma tipo Reddit lanzada a finales de enero de 2026, impulsada por Matt Schlicht (CEO de Octane AI), donde agentes de IA pueden publicar…

Por qué importaMoltbook ilustra cómo los agentes de IA están adquiriendo capacidades de coordinación y comunicación independiente que trascienden la interacción…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 WWWhat's new
Herramientas y productos

OpenClaw: agente IA con acceso a cuentas genera alertas de seguridad entre expertos

OpenClaw, un asistente de inteligencia artificial que permite automatizar tareas conectando a cuentas en línea (Gmail, Amazon, etc.), ha alcanzado más de 2…

Por qué importaLos agentes IA autónomos como OpenClaw representan un cambio fundamental en cómo los usuarios delegan control sobre sus datos y cuentas, pero…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Wired AI
Herramientas y productos

OpenClaw rebautiza su asistente IA personal tras disputa legal y construye red social para agentes

El asistente IA personal Clawdbot, creado por el desarrollador austriaco Peter Steinberger, ha sido renombrado nuevamente a OpenClaw tras una primera disputa…

Por qué importaDemuestra un fenómeno emergente: agentes IA auto-organizándose en plataformas comunitarias sin supervisión humana directa. Aunque aún es un proyecto…

Impacto bajo Fiabilidad confirmado por varias fuentes TechCrunch AI
Herramientas y productos

Moltbook: red social de agentes IA con 32.000 bots activos genera dinámicas impredecibles

Moltbook, una plataforma estilo Reddit lanzada como complemento del asistente OpenClaw, alcanzó 32.000 usuarios agentes IA registrados en su primer fin de…

Por qué importaEsta es la primera experiencia a escala significativa de interacción máquina-máquina en entorno social abierto, mostrando comportamientos emergentes…

Impacto medio Fiabilidad confirmado por varias fuentes Ars Technica
Herramientas y productos

Fauna Robotics presenta Sprout: robot humanoide diseñado para seguridad en espacios compartidos

Fauna Robotics ha presentado Sprout, un robot humanoide de 107 cm y 22,7 kg orientado a operar de forma segura en espacios humanos como oficinas, casas y…

Por qué importaSprout representa un enfoque diferente en robótica humanoide: prioriza seguridad, comunicación y capacidad de interacción humana sobre fuerza bruta o…

Impacto bajo Fiabilidad una fuente fiable Xataka
Herramientas y productos

Moltbook: red social de agentes de IA expone vulnerabilidades de seguridad

Matt Schlicht y Peter Steinberger han desarrollado Moltbook, una red social estilo Reddit donde más de 35.000 agentes de IA interactúan entre sí sin…

Por qué importaEl experimento revela brechas de seguridad fundamentales en sistemas de agentes autónomos que las empresas están desplegando en producción. A medida…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Decoder
Herramientas y productos

OpenClaw crece a 114.000 estrellas en GitHub; Moltbook permite redes sociales entre agentes IA

OpenClaw, un asistente digital personal de código abierto construido por Peter Steinberger, alcanza 114.000 estrellas en GitHub tras dos meses de vida y…

Por qué importaEl proyecto muestra la demanda real de asistentes autónomos sin restricciones y cómo los desarrolladores están acelerando su adopción a pesar de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Simon Willison
Herramientas y productos

Mercedes-Benz presenta nuevo S-Class con conducción autónoma nivel 4 sobre plataforma NVIDIA DRIVE

Mercedes-Benz ha desvelado un nuevo S-Class equipado con la arquitectura NVIDIA DRIVE Hyperion y software NVIDIA DRIVE AV L4, diseñado para operaciones de…

Por qué importaRepresenta un hito concreto en la materialización del vehículo autónomo de producción: un fabricante premium implementa arquitectura L4-ready con…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 NVIDIA Blog
Empresa y transformación digital

El Instituto para el Progreso propone usar IA para convertir código C/C++ a Rust de forma masiva

El Instituto para el Progreso (Institute for Progress) ha lanzado la iniciativa 'Great Refactor' para usar herramientas de IA en programación con el fin de…

Por qué importaLa iniciativa aborda el hecho de que el 70% de las vulnerabilidades de software conocidas son explotaciones de memoria, un problema endémico de…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 IEEE Spectrum AI
Herramientas y productos

Moltbot, asistente IA de código abierto, crece viral en GitHub pero plantea riesgos de seguridad

El proyecto Moltbot, creado por el desarrollador austríaco Peter Steinberger, alcanzó 69.000 estrellas en GitHub en un mes, convirtiéndose en uno de los…

Por qué importaMoltbot representa un modelo emergente de asistentes IA descentralizados y siempre activos integrados en canales de comunicación cotidianos, pero su…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ars Technica
Regulación y ética

OpenAI lanza programa de becas para seguridad y bienestar de jóvenes con IA

OpenAI ha anunciado el EMEA Youth & Wellbeing Grant, un programa de 500.000 euros destinado a financiar organizaciones no gubernamentales e investigadores que…

Por qué importaEl programa refleja el creciente interés de grandes laboratorios de IA en abordar impactos sociales y de seguridad, particularmente en poblaciones…

Impacto bajo Fiabilidad fuente primaria OpenAI
Herramientas y productos

OpenAI publica medidas de seguridad para agentes IA que abren enlaces

OpenAI ha publicado información sobre cómo protege los datos de usuario cuando agentes IA abren enlaces en internet. La pieza describe salvaguardas integradas…

Por qué importaA medida que los agentes IA autónomos se desplieguen en producción, la seguridad en el manejo de enlaces es crítica para evitar que datos sensibles…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 OpenAI
Herramientas y productos

Clawdbot/Moltbot: agente de IA con acceso directo a la computadora genera riesgos de seguridad

Clawdbot (rebautizado Moltbot tras conflicto de marca con Anthropic) es un asistente de IA de código abierto creado por Peter Steinberger que se comunica vía…

Por qué importaRepresenta una nueva clase de agentes de IA autónomos con capacidades de control de sistema mucho más amplias que asistentes convencionales, lo que…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Xataka México
Sociedad y trabajo

Los generadores de deepfakes sexuales se sofistican y expanden con servicios de vídeo

Wired documenta un ecosistema creciente de más de 50 sitios web y decenas de bots en Telegram que generan deepfakes pornográficos no consentidos con tecnología…

Por qué importaEl abuso sexual por deepfakes es una violencia de género sistémica facilitada por modelos de IA abiertos y cada vez más accesibles, sin barreras…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 Wired AI
Empresa y transformación digital

Asistentes de IA transforman la programación: del 30% del código en Microsoft al riesgo de alucinaciones

El artículo documenta que asistentes de programación como GitHub Copilot, Cursor y Replit han normalizado la generación asistida de código en empresas…

Por qué importaPara directivos y equipos técnicos, esto representa un cambio estructural en cómo se valoran las habilidades de programación y la productividad del…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 WWWhat's new