Ir al contenido
IA para hoy

Regulación y ética, página 83

Leyes, normativas, seguridad, privacidad y debate social

2032 noticias · RSS de esta sección

Filtrar
Regulación y ética

X admite fallo en controles de Grok para deepfakes sexuales no consentidos

X ha anunciado cambios en las capacidades de edición de imágenes de Grok tras la proliferación de deepfakes sexuales no consentidos en la plataforma. Sin…

Por qué importaExpone la brecha entre las políticas anunciadas de modelos de IA y su efectividad real frente a abusos de contenido sexual no consentido. Ilustra los…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Verge AI
Regulación y ética

California investiga a xAI tras generar Grok imágenes sexuales de menores sin consentimiento

El fiscal general de California abrió una investigación formal contra xAI después de que su chatbot Grok comenzó a generar imágenes sexuales no consentidas de…

Por qué importaEste caso ilustra un fallo crítico en los sistemas de seguridad de IA generativa frente a abuso real, establece precedentes regulatorios para…

Impacto muy alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Regulación y ética

Microsoft corrige vulnerabilidad crítica en Copilot que permitía robar datos de chat con un clic

Investigadores de seguridad de Varonis descubrieron una vulnerabilidad en Copilot de Microsoft que permitía a atacantes exfiltrar datos sensibles del usuario…

Por qué importaLa vulnerabilidad expone un riesgo significativo para empresas que dependen de Copilot, mostrando que herramientas de IA asistidas pueden ser puerta…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Ars Technica
Regulación y ética

Grok limita generación de desnudos tras investigación de California

X Safety confirmó que Grok fue actualizado para impedir la generación y edición de imágenes que desnuden personas sin consentimiento. La restricción se aplica…

Por qué importaRefleja cómo los sistemas generativos de IA pueden ser usados para abuso sexual digital y cómo enfrentan presión regulatoria cuando se detectan estas…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ars Technica AI
Regulación y ética

Policía británica admite uso de Microsoft Copilot con alucinaciones en decisión sobre afición

El jefe de policía de West Midlands confirmó que su departamento utilizó Microsoft Copilot para tomar la controvertida decisión de prohibir a aficionados del…

Por qué importaExpone un riesgo crítico en la adopción de herramientas de IA generativa en decisiones públicas: los modelos producen contenido falso que puede pasar…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica AI
Regulación y ética

Parlamento británico critica retrasos en prohibición de apps de desnudificación con IA

El Comité de Ciencia, Innovación y Tecnología del Parlamento británico ha criticado los retrasos del gobierno en prohibir herramientas de desnudificación por…

Por qué importaExpone un vacío regulatorio crítico en la lucha contra el abuso de imágenes íntimas generadas con IA: la ley se enfoca en apps especializadas pero no…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Register AI
Regulación y ética

Fallos de seguridad en librerías Python de IA permiten ejecutar código malicioso en modelos

Palo Alto Networks descubrió vulnerabilidades en tres librerías Python de código abierto (NeMo de Nvidia, Uni2TS de Salesforce y FlexTok de Apple/EPFL)…

Por qué importaCualquier organización que descargue y utilice modelos de Hugging Face está expuesta a ejecución remota de código si no actualiza sus dependencias…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Register AI
Regulación y ética

EE.UU. planea integrar Grok de Musk en redes militares este mes

El secretario de Defensa de EE.UU., Pete Hegseth, anunció que el Pentágono integrará Grok, la herramienta de IA de Elon Musk, en sus redes no clasificadas y…

Por qué importaLa integración de IA comercial en redes militares clasificadas plantea cuestiones críticas de seguridad, fiabilidad y control sobre herramientas con…

Impacto muy alto Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica
Regulación y ética

Trump exige a empresas tecnológicas financiar ampliaciones de energía para datacenters de IA

El presidente Trump ha declarado que las grandes tecnológicas deben asumir los costes de la infraestructura energética necesaria para expandir sus datacenters…

Por qué importaDefine un precedente político sobre quién asume los costes de la expansión de infraestructura de IA en EE.UU., con implicaciones para presupuestos…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 The Register AI
Regulación y ética

Brasil investiga a Meta por abuso de posición dominante en IA en WhatsApp

La autoridad antimonopolio brasileña (Cade) abrió investigación contra Meta el 13 de enero de 2026 por sospechas de abuso de posición dominante en el mercado…

Por qué importaEsta investigación sienta precedente regulatorio sobre el acceso de competidores a plataformas dominantes para servicios de IA, un modelo que otras…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 Clarín Tecnología
Regulación y ética

Superhuman AI: ataque de inyección de prompts exfiltra emails sensibles de usuarios

Un ataque de inyección de prompts en Superhuman AI permitió a un atacante obtener el contenido de decenas de emails sensibles (financieros, legales y médicos)…

Por qué importaDemuestra que los asistentes de IA empresariales con acceso a datos sensibles siguen siendo vulnerables a ataques de inyección de prompts bien…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Simon Willison
Regulación y ética

Google desactiva resúmenes de IA sobre salud tras hallarse información médica falsa

Google desactivó parte de sus resúmenes de AI Overviews después de que The Guardian investigara y encontrara información médica falsa y peligrosa. El sistema…

Por qué importaDemuestra un riesgo crítico de deploying sistemas de IA generativa en contextos donde la precisión es de vida o muerte: las alucinaciones y…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 Ars Technica
Regulación y ética

Bill Gates advierte sobre riesgos de bioterrorismo con IA en su carta anual 2026

Bill Gates ha publicado su carta anual "The Year Ahead, Optimism with footnotes" (enero de 2026) en la que advierte que la inteligencia artificial podría ser…

Por qué importaLa advertencia conecta directamente con la necesidad de gobernanza y regulación preventiva de IA antes de que surjan crisis bioseguridad. Gates…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 Xataka México
Regulación y ética

Google no aplica sus propias reglas: Grok sigue en Play Store pese a violar políticas

xAI debilitó los filtros de contenido de Grok para generación de imágenes, lo que generó proliferación de contenido sexual no consentido y de menores en la…

Por qué importaRevela una brecha entre política y ejecución en plataformas de distribución de apps, con implicaciones sobre responsabilidad corporativa y protección…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ars Technica AI
Regulación y ética

Empresas casi duplican evaluaciones de seguridad en herramientas de IA en 2026

Según la encuesta Global Cybersecurity Outlook 2026 del World Economic Forum, el 64% de líderes empresariales ahora evalúa riesgos de seguridad en herramientas…

Por qué importaLa duplicación de evaluaciones de seguridad refleja una maduración crítica en la adopción empresarial de IA; sin embargo, solo el 64% de…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 The Register AI
Regulación y ética

Demanda en Nueva Jersey muestra las dificultades legales para frenar el porno deepfake

Un bufete de la Facultad de Derecho de Yale interpuso una demanda en octubre contra ClothOff, una aplicación que genera pornografía sintética no consensuada…

Por qué importaDemuestra que las regulaciones existentes contra pornografía sintética adolecen de un problema grave: castigar a usuarios individuales es posible…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 TechCrunch AI
Regulación y ética

Ofcom investiga a X por generación de imágenes sexualizadas con Grok

Ofcom, el regulador de comunicaciones del Reino Unido, ha abierto una investigación formal contra X por posibles violaciones de la Online Safety Act…

Por qué importaEste caso marca el primer punto de quiebre regulatorio serio contra una capacidad de generación de imágenes de IA en una economía importante…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Register AI
Regulación y ética

Senado estadounidense pide retirar app de X de tiendas por facilitar deepfakes sexuales en Grok

Los senadores Ron Wyden, Ed Markey y Ben Ray Luján han enviado una petición formal a Apple y Google para retirar la aplicación de X de sus tiendas, acusando a…

Por qué importaLa intervención legislativa directa señala que los reguladores estadounidenses están dispuestos a actuar contra plataformas de IA que faciliten…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 MuyComputer
Regulación y ética

Indonesia y Malasia bloquean Grok por deepfakes sexuales no consentidos

Indonesia y Malasia han bloqueado temporalmente el acceso a Grok, el chatbot de xAI, tras una oleada de contenido con imágenes sexualizadas generadas por IA…

Por qué importaEste es el bloqueo más agresivo de un gobierno contra una aplicación de IA por abuso sexual hasta la fecha, estableciendo un precedente regulatorio…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Regulación y ética

Activistas de IA lanzan 'Poison Fountain' para envenenar datos de entrenamiento

Un grupo de insiders de empresas tecnológicas estadounidenses ha lanzado el proyecto Poison Fountain, que busca inyectar datos incorrectos en crawlers de IA…

Por qué importaSeñala una escalada de acciones adversariales contra sistemas de IA desde dentro de la industria, revelando descontento significativo entre…

Impacto medio Fiabilidad declaración interesada The Register AI
Regulación y ética

Grok genera más de 1.500 imágenes sexualizadas por hora, con foco en mujeres musulmanas

Según una investigación de Wired, usuarios de Grok solicitan masivamente al chatbot de xAI que genere, edite o elimine prendas religiosas y culturales en…

Por qué importaLa escala y naturaleza del abuso generado por Grok pone en evidencia fallos críticos en los sistemas de control de contenido de xAI y X, y establece…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired AI
Regulación y ética

Twitter restringe Grok a suscriptores tras generar imágenes sexualizadas ilegales

Grok, el asistente de IA de Twitter, ha generado imágenes sexualizadas no consentidas, incluyendo contenido ilegal de menores, distribuido en redes de dark web…

Por qué importaDemuestra que restricciones de acceso sin correcciones técnicas reales en el modelo no detienen abusos, apenas los redistribuyen. Para empresas y…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 MuyComputer
Regulación y ética

X limita generación de imágenes en Grok a usuarios de pago tras escándalo de contenido sexual

Tras días de presión regulatoria y mediática por la creación de miles de imágenes sexuales no consentidas y contenido de aparente explotación de menores…

Por qué importaEl caso ilustra cómo las empresas de IA pueden optar por soluciones que monetizan el abuso en lugar de resolverlo, y expone la insuficiencia de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired AI
Regulación y ética

X restringe generación de imágenes de Grok a suscriptores pagos tras crítica global

xAI ha limitado la función de generación de imágenes de Grok en X únicamente a usuarios pagos, tras intensas críticas internacionales por permitir la creación…

Por qué importaEl incidente demuestra la rapidez con que herramientas de IA pueden ser mal utilizadas para daño civil y delictivo, forzando cambios urgentes en…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI