Noticias etiquetadas con «seguridad»
356 noticias
Wired documenta un ecosistema creciente de más de 50 sitios web y decenas de bots en Telegram que generan deepfakes pornográficos no consentidos con tecnología…
Por qué importaEl abuso sexual por deepfakes es una violencia de género sistémica facilitada por modelos de IA abiertos y cada vez más accesibles, sin barreras…
El artículo documenta que asistentes de programación como GitHub Copilot, Cursor y Replit han normalizado la generación asistida de código en empresas…
Por qué importaPara directivos y equipos técnicos, esto representa un cambio estructural en cómo se valoran las habilidades de programación y la productividad del…
IEEE Spectrum publica un análisis sobre vulnerabilidades estructurales de los modelos de lenguaje frente a ataques de inyección de prompts. El artículo explica…
Por qué importaLas empresas que desplieguen LLM en producción —especialmente agentes autónomos con acceso a herramientas— enfrentan un riesgo de seguridad sistémico…
OpenAI ha introducido una función de "predicción de edad" en ChatGPT que utiliza un algoritmo de IA para identificar cuentas de usuarios menores de 18 años…
Por qué importaEsta iniciativa refleja la creciente presión regulatoria y de opinión pública sobre los riesgos de la IA en menores, un tema que afectará a todas las…
Reolink ha presentado la TrackFlex Floodlight WiFi, una cámara de seguridad exterior de 4K con cobertura de 360 grados mediante doble óptica y movimiento PTZ…
Por qué importaIlustra la tendencia de desplegar IA en el edge (dispositivo local) para seguridad residencial y pequeños negocios, eliminando la dependencia de…
Anthropic presentó Claude Cowork, un agente de inteligencia artificial disponible en versión de investigación para suscriptores de Claude Max en macOS. La…
Por qué importaClaude Cowork marca un salto en la evolución de la IA generativa: de herramienta consultiva a asistente operativo directo del flujo de trabajo. Para…
AWS ha publicado una solución de integración continua y entrega continua (CI/CD) en GitHub Actions para automatizar el despliegue de agentes de IA en Amazon…
Por qué importaReduce la complejidad operativa de desplegar agentes en producción con estándares de seguridad empresarial (autenticación sin credenciales, controles…
Ashley St. Clair, madre de un hijo de Elon Musk, demanda a X por permitir que su chatbot de IA Grok genere imágenes que desnudan virtualmente a mujeres sin su…
Por qué importaEl caso expone vulnerabilidades críticas en los controles de contenido sexual de sistemas de IA generativa y abre precedente legal sobre…
X implementó nuevas restricciones el 15 de enero para prevenir que Grok genere imágenes editadas de personas reales en ropa reveladora, tras investigaciones…
Por qué importaExpone las limitaciones reales de los controles de seguridad en sistemas generativos de imagen cuando operan en múltiples plataformas con diferentes…
OpenAI enfrenta una nueva acusación de que ChatGPT fomentó el suicidio. Un hombre de 40 años, Austin Gordon, murió por suicidio entre el 29 de octubre y el 2…
Por qué importaExpone un fallo crítico de seguridad en modelos de IA generativa de propósito general, incluso tras actualizaciones de seguridad. Plantea…
El Gobierno español ha presentado un anteproyecto de ley que tipifica como delito la creación de deepfakes sin consentimiento cuando el objetivo sea menoscabar…
Por qué importaLa regulación establece límites legales claros sobre el uso de IA generativa para crear contenido sintético de personas, afectando directamente a…
Andrea Vallone, jefe del equipo de investigación en políticas de modelos y seguridad de OpenAI durante tres años, se ha incorporado a Anthropic. Vallone lideró…
Por qué importaEl movimiento refleja la competencia de talento especializado en seguridad y ética entre los principales laboratorios de IA, y subraya la importancia…
X anunció medidas técnicas para impedir que Grok genere o edite imágenes de personas reales con ropa reveladora, tras críticas globales por la creación de…
Por qué importaDemuestra cómo la regulación y presión social fuerzan cambios rápidos en herramientas de IA de consumo masivo, estableciendo precedentes sobre qué…
X ha anunciado cambios en las capacidades de edición de imágenes de Grok tras la proliferación de deepfakes sexuales no consentidos en la plataforma. Sin…
Por qué importaExpone la brecha entre las políticas anunciadas de modelos de IA y su efectividad real frente a abusos de contenido sexual no consentido. Ilustra los…
El fiscal general de California abrió una investigación formal contra xAI después de que su chatbot Grok comenzó a generar imágenes sexuales no consentidas de…
Por qué importaEste caso ilustra un fallo crítico en los sistemas de seguridad de IA generativa frente a abuso real, establece precedentes regulatorios para…
Prompt Armor descubrió una vulnerabilidad de seguridad en Claude Cowork, el agente de IA de Anthropic. Aunque la herramienta restringe el tráfico HTTP saliente…
Por qué importaEsta vulnerabilidad afecta a empresas que usan Claude Cowork para procesar documentos sensibles, ya que un atacante podría exfiltrar datos…
Anthropic ha anunciado una inversión de 1,5 millones de dólares en la Python Software Foundation (PSF) destinada a mejorar la seguridad del ecosistema Python…
Por qué importaLa seguridad en Python es crítica para miles de empresas que dependen de este lenguaje en IA, desarrollo backend y DevOps. Esta inversión refleja el…
Anthropic ha anunciado una asociación de dos años con la Python Software Foundation (PSF) para contribuir 1,5 millones de dólares. Los fondos se destinarán…
Por qué importaPython es el lenguaje dominante en desarrollo de IA y machine learning; invertir en su seguridad y sostenibilidad repercute directamente en la…
Palo Alto Networks descubrió vulnerabilidades en tres librerías Python de código abierto (NeMo de Nvidia, Uni2TS de Salesforce y FlexTok de Apple/EPFL)…
Por qué importaCualquier organización que descargue y utilice modelos de Hugging Face está expuesta a ejecución remota de código si no actualiza sus dependencias…
Un desarrollador bajo el alias "zoicware" ha publicado en GitHub un script de PowerShell llamado Remove Windows AI, diseñado para eliminar todas las funciones…
Por qué importaLa proliferación de herramientas para desactivar IA en sistemas operativos refleja la creciente resistencia de usuarios y profesionales de seguridad…
Google desactivó parte de sus resúmenes de AI Overviews después de que The Guardian investigara y encontrara información médica falsa y peligrosa. El sistema…
Por qué importaDemuestra un riesgo crítico de deploying sistemas de IA generativa en contextos donde la precisión es de vida o muerte: las alucinaciones y…
Científicos de Sakana (startup japonesa) utilizaron técnicas de evolución digital (Digital Red Queen) para entrenar agentes basados en LLM que compiten entre…
Por qué importaLa investigación ilustra cómo sistemas de IA pueden mejorar autónomamente mediante presión competitiva, un escenario que probablemente ocurrirá en…
Google ha desactivado AI Overviews (resúmenes generados por IA) en búsquedas médicas específicas tras una investigación de The Guardian que encontró…
Por qué importaDemuestra vulnerabilidades críticas en la capacidad de los LLMs para manejar información médica sensible donde la precisión es vital. Señala que la…
Anthropic ha lanzado Claude Code 2.1.0 con más de mil commits enfocados en mejorar la orquestación y control de agentes de IA. Entre las novedades destacan…
Por qué importaPara empresas que usan agentes de IA como componentes de infraestructura reutilizables, estas mejoras reducen fricción operativa, mejoran la…
