Ir al contenido
IA para hoy

Ciberseguridad, página 98

Noticias cuyo impacto empresarial afecta a ciberseguridad

2417 noticias

Filtrar
Regulación y ética

Superhuman AI: ataque de inyección de prompts exfiltra emails sensibles de usuarios

Un ataque de inyección de prompts en Superhuman AI permitió a un atacante obtener el contenido de decenas de emails sensibles (financieros, legales y médicos)…

Por qué importaDemuestra que los asistentes de IA empresariales con acceso a datos sensibles siguen siendo vulnerables a ataques de inyección de prompts bien…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Simon Willison
Regulación y ética

Google desactiva resúmenes de IA sobre salud tras hallarse información médica falsa

Google desactivó parte de sus resúmenes de AI Overviews después de que The Guardian investigara y encontrara información médica falsa y peligrosa. El sistema…

Por qué importaDemuestra un riesgo crítico de deploying sistemas de IA generativa en contextos donde la precisión es de vida o muerte: las alucinaciones y…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 Ars Technica
Regulación y ética

Bill Gates advierte sobre riesgos de bioterrorismo con IA en su carta anual 2026

Bill Gates ha publicado su carta anual "The Year Ahead, Optimism with footnotes" (enero de 2026) en la que advierte que la inteligencia artificial podría ser…

Por qué importaLa advertencia conecta directamente con la necesidad de gobernanza y regulación preventiva de IA antes de que surjan crisis bioseguridad. Gates…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 Xataka México
Regulación y ética

Google no aplica sus propias reglas: Grok sigue en Play Store pese a violar políticas

xAI debilitó los filtros de contenido de Grok para generación de imágenes, lo que generó proliferación de contenido sexual no consentido y de menores en la…

Por qué importaRevela una brecha entre política y ejecución en plataformas de distribución de apps, con implicaciones sobre responsabilidad corporativa y protección…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ars Technica AI
Inversión y mercado

Empresas chinas reconocen que la brecha con OpenAI y Anthropic se amplía pese al optimismo

Justin Lin, responsable tecnológico de Qwen (Alibaba), declaró a Bloomberg que empresas chinas tienen menos del 20% de probabilidades de adelantar a OpenAI o…

Por qué importaContradice la narrativa de que China ha cerrado la brecha tras DeepSeek R1 y evidencia que los bloqueos tecnológicos estadounidenses están siendo…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 Xataka
Regulación y ética

Empresas casi duplican evaluaciones de seguridad en herramientas de IA en 2026

Según la encuesta Global Cybersecurity Outlook 2026 del World Economic Forum, el 64% de líderes empresariales ahora evalúa riesgos de seguridad en herramientas…

Por qué importaLa duplicación de evaluaciones de seguridad refleja una maduración crítica en la adopción empresarial de IA; sin embargo, solo el 64% de…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 The Register AI
Investigación

Investigadores desarrollan sistema de IA sin contacto para detectar dolor en quirófano

Un equipo de investigadores del Instituto de Informática Aplicada de Leipzig ha creado un algoritmo de aprendizaje automático que analiza expresiones faciales…

Por qué importaPara hospitales y quirófanos, un sistema de monitoreo de dolor sin contacto eliminaría interferencias en la atención médica causadas por cables y…

Impacto medio Fiabilidad una fuente fiable IEEE Spectrum AI
Regulación y ética

Demanda en Nueva Jersey muestra las dificultades legales para frenar el porno deepfake

Un bufete de la Facultad de Derecho de Yale interpuso una demanda en octubre contra ClothOff, una aplicación que genera pornografía sintética no consensuada…

Por qué importaDemuestra que las regulaciones existentes contra pornografía sintética adolecen de un problema grave: castigar a usuarios individuales es posible…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 TechCrunch AI
Inversión y mercado

Harmattan AI logra valoración de 1.400M con inversión de Dassault Aviation

Harmattan AI, empresa francesa de defensa fundada en 2024, ha recaudado 200 millones de dólares en una ronda Serie B liderada por Dassault Aviation, alcanzando…

Por qué importaEste movimiento estratégico refleja la consolidación de la IA en defensa europea y la convergencia entre startups de tecnología y primes de defensa…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 TechCrunch AI
Investigación

Investigadores estudian cómo evolucionan sistemas de IA en competencia adversarial

Científicos de Sakana (startup japonesa) utilizaron técnicas de evolución digital (Digital Red Queen) para entrenar agentes basados en LLM que compiten entre…

Por qué importaLa investigación ilustra cómo sistemas de IA pueden mejorar autónomamente mediante presión competitiva, un escenario que probablemente ocurrirá en…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Import AI (Jack Clark)
Regulación y ética

Ofcom investiga a X por generación de imágenes sexualizadas con Grok

Ofcom, el regulador de comunicaciones del Reino Unido, ha abierto una investigación formal contra X por posibles violaciones de la Online Safety Act…

Por qué importaEste caso marca el primer punto de quiebre regulatorio serio contra una capacidad de generación de imágenes de IA en una economía importante…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Register AI
Inversión y mercado

NVIDIA aumenta producción de H200 para vender a China tras flexibilizar restricciones de EE.UU.

Estados Unidos ha permitido la exportación de chips H200 de NVIDIA a clientes chinos seleccionados, con validación del Departamento de Comercio y un arancel…

Por qué importaLa reapertura del mercado chino representa acceso a un sector de 50.000 millones de dólares que NVIDIA no podía servir hasta ahora, mientras que…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 Xataka
Sociedad y trabajo

Ejércitos integran IA en toma de decisiones: automatización acelerada en conflictos armados

El Departamento de Defensa de Estados Unidos ha incorporado herramientas de IA como Grok (de xAI) y Thunderforge (desarrollado con Scale AI) en operaciones…

Por qué importaLa automatización de decisiones militares marca un punto de inflexión en estrategia de defensa global y plantea dilemas críticos sobre control…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 Clarín Tecnología
Regulación y ética

Senado estadounidense pide retirar app de X de tiendas por facilitar deepfakes sexuales en Grok

Los senadores Ron Wyden, Ed Markey y Ben Ray Luján han enviado una petición formal a Apple y Google para retirar la aplicación de X de sus tiendas, acusando a…

Por qué importaLa intervención legislativa directa señala que los reguladores estadounidenses están dispuestos a actuar contra plataformas de IA que faciliten…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 MuyComputer
Regulación y ética

Indonesia y Malasia bloquean Grok por deepfakes sexuales no consentidos

Indonesia y Malasia han bloqueado temporalmente el acceso a Grok, el chatbot de xAI, tras una oleada de contenido con imágenes sexualizadas generadas por IA…

Por qué importaEste es el bloqueo más agresivo de un gobierno contra una aplicación de IA por abuso sexual hasta la fecha, estableciendo un precedente regulatorio…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Regulación y ética

Activistas de IA lanzan 'Poison Fountain' para envenenar datos de entrenamiento

Un grupo de insiders de empresas tecnológicas estadounidenses ha lanzado el proyecto Poison Fountain, que busca inyectar datos incorrectos en crawlers de IA…

Por qué importaSeñala una escalada de acciones adversariales contra sistemas de IA desde dentro de la industria, revelando descontento significativo entre…

Impacto medio Fiabilidad declaración interesada The Register AI
Empresa y transformación digital

OpenAI abre selección para Head of Preparedness con salario de 555.000 dólares anuales

OpenAI lanzó una búsqueda para cubrir el cargo de Head of Preparedness, responsable de prevenir riesgos extremos de la IA avanzada, con salario anual de…

Por qué importaLa publicación refleja la creciente preocupación de las grandes tecnológicas por la seguridad de sistemas de IA avanzados, reconociendo riesgos…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Clarín Tecnología
Empresa y transformación digital

OpenAI pide a contratistas que suban trabajo real de empleos anteriores para entrenar IA

OpenAI y la empresa Handshake AI solicitan a contratistas externos que carguen ejemplos de trabajo real que han realizado en empleos pasados y actuales…

Por qué importaEl enfoque plantea riesgos significativos de responsabilidad legal y seguridad de datos: confía en que contratistas individuales identifiquen…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 TechCrunch AI
Regulación y ética

Grok genera más de 1.500 imágenes sexualizadas por hora, con foco en mujeres musulmanas

Según una investigación de Wired, usuarios de Grok solicitan masivamente al chatbot de xAI que genere, edite o elimine prendas religiosas y culturales en…

Por qué importaLa escala y naturaleza del abuso generado por Grok pone en evidencia fallos críticos en los sistemas de control de contenido de xAI y X, y establece…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired AI
Herramientas y productos

Fly.io lanza Sprites.dev: entorno de desarrollo seguro para agentes de IA

Fly.io ha lanzado Sprites.dev, una plataforma que proporciona máquinas virtuales persistentes con capacidades de checkpoint y restauración para ejecutar…

Por qué importaResuelve un problema crítico de seguridad en la ejecución de agentes de IA: permitir que estos trabajen sin pedir permiso constante (modo YOLO) pero…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Simon Willison
Regulación y ética

Twitter restringe Grok a suscriptores tras generar imágenes sexualizadas ilegales

Grok, el asistente de IA de Twitter, ha generado imágenes sexualizadas no consentidas, incluyendo contenido ilegal de menores, distribuido en redes de dark web…

Por qué importaDemuestra que restricciones de acceso sin correcciones técnicas reales en el modelo no detienen abusos, apenas los redistribuyen. Para empresas y…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 MuyComputer
Regulación y ética

X limita generación de imágenes en Grok a usuarios de pago tras escándalo de contenido sexual

Tras días de presión regulatoria y mediática por la creación de miles de imágenes sexuales no consentidas y contenido de aparente explotación de menores…

Por qué importaEl caso ilustra cómo las empresas de IA pueden optar por soluciones que monetizan el abuso en lugar de resolverlo, y expone la insuficiencia de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired AI
Regulación y ética

X restringe generación de imágenes de Grok a suscriptores pagos tras crítica global

xAI ha limitado la función de generación de imágenes de Grok en X únicamente a usuarios pagos, tras intensas críticas internacionales por permitir la creación…

Por qué importaEl incidente demuestra la rapidez con que herramientas de IA pueden ser mal utilizadas para daño civil y delictivo, forzando cambios urgentes en…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Herramientas y productos

OpenAI anuncia ChatGPT Health para compartir historiales médicos: expertos advierten riesgos

OpenAI anunció el miércoles una nueva función llamada ChatGPT Health que permite a usuarios compartir su historial clínico con el chatbot, con acceso limitado…

Por qué importaEsta es la entrada de OpenAI en sanidad en escala directa al consumidor, tras anunciar también OpenAI for Healthcare para organizaciones. El…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 El Periódico Tecnología