Ir al contenido
IA para hoy

Regulación y ética, página 84

Leyes, normativas, seguridad, privacidad y debate social

2032 noticias · RSS de esta sección

Filtrar
Regulación y ética

X restringe generación de imágenes de Grok tras amenaza de ban del Reino Unido

X ha limitado la generación de imágenes con Grok solo a usuarios de pago tras ser investigada por el gobierno británico. La medida responde a un abuso…

Por qué importaEl caso expone la capacidad de las herramientas de generación de imágenes para crear contenido ilegal y abusivo a escala, y demuestra cómo los…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Register AI
Regulación y ética

Elon Musk desactiva el generador de imágenes de Grok tras denuncias de contenido sexual infantil

Grok, la herramienta de IA propiedad de Elon Musk, ha desactivado su función de generación de imágenes tras cientos de denuncias por su uso para crear material…

Por qué importaEste es un caso crítico de riesgo de seguridad en sistemas de generación de contenido: demuestra cómo una capacidad técnica potente puede ser…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Periódico Tecnología
Regulación y ética

Gobiernos ordenan investigación a xAI por imágenes sintéticas no consentidas generadas por Grok

Durante dos semanas, X ha experimentado una inundación de imágenes desnudas manipuladas por IA generadas mediante el chatbot Grok, afectando a modelos…

Por qué importaEl incidente expone los límites actuales de la regulación tecnológica ante herramientas generativas sin salvaguardas adecuadas. Para directivos y…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Regulación y ética

Juicio de Musk contra OpenAI irá a tribunal en marzo por incumplimiento contractual

La jueza Yvonne Gonzalez Rogers dictaminó que existe evidencia que respalda la demanda de Elon Musk contra OpenAI, Sam Altman y Greg Brockman. Musk alega que…

Por qué importaEl caso toca un debate fundamental sobre la gobernanza de IA: la tensión entre mantener una estructura alineada con propósitos sociales frente a las…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI
Regulación y ética

ChatGPT vulnerable a nuevo ataque que exfiltra datos privados de usuarios

Investigadores de Radware descubrieron una vulnerabilidad en ChatGPT denominada ZombieAgent que permite exfiltrar información privada de usuarios. El ataque…

Por qué importaRefleja un ciclo vicioso en la seguridad de chatbots: cada guardrail es reactivo y específico para una técnica de ataque concreta, no para la clase…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica
Regulación y ética

Reguladores del Reino Unido investigan a X por generación de imágenes sexuales con Grok

Ofcom y la Oficina del Comisionado de Información (ICO) del Reino Unido han contactado con X y xAI tras reportes de que Grok genera imágenes sexualizadas de…

Por qué importaEste caso representa una prueba crítica de la capacidad regulatoria de la Ley de Seguridad en Línea del Reino Unido, que designa la difusión de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Register AI
Regulación y ética

OpenAI parcha nuevas vulnerabilidades de inyección de prompts en ChatGPT

Investigadores de Radware identificaron vulnerabilidades en ChatGPT que permiten la exfiltración de información personal mediante inyección indirecta de…

Por qué importaLas vulnerabilidades de inyección de prompts representan un riesgo crítico para empresas que dependen de agentes de IA para acceder a sistemas…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Register AI
Regulación y ética

Delincuentes usan IA para programar malware, pero cometen errores críticos

Según Kate Middagh de Palo Alto Networks, criminales están utilizando herramientas de codificación asistida por IA ("vibe coding") para desarrollar malware y…

Por qué importaLas empresas deben entender que la democratización de herramientas de IA acelera tanto los ataques como sus vulnerabilidades intrínsecas. Solo el 50%…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 The Register AI
Regulación y ética

Grok genera miles de imágenes sexualizadas de mujeres pese a críticas regulatorias

El chatbot Grok de Elon Musk está generando imágenes de mujeres desnudas o semidesnudas a petición de usuarios, con una tasa reportada de aproximadamente 6.700…

Por qué importaEl caso expone vulnerabilidades críticas en los sistemas de moderación de modelos generativos comerciales de imagen y marca un punto de conflicto…

Impacto medio Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

Google y Character.AI negocian primeros acuerdos mayores en demandas por muertes de adolescentes

Google y Character.AI han acordado en principio resolver demandas de familias cuyos hijos adolescentes murieron por suicidio o se autolesionaron tras…

Por qué importaEstos son entre los primeros acuerdos legales por daño causado por IA, sentando precedente sobre responsabilidad empresarial en sistemas de…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 TechCrunch AI
Regulación y ética

Grok genera contenido sexual explícito y de menores; investigación de reguladores europeos

Una investigación de Wired, con análisis del investigador Paul Bouchaud de AI Forensics, documenta que Grok Imagine (modelo de generación de video de xAI) ha…

Por qué importaExpone una brecha crítica en los controles de seguridad de una plataforma de IA generativa de uso público, con implicaciones legales graves (CSAM es…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired AI
Regulación y ética

Virginia pierde 1.600 millones en impuestos por exenciones a centros de datos en 2025

Virginia renunció a 1.600 millones de dólares en ingresos fiscales mediante exenciones para centros de datos en el año fiscal 2025, un aumento del 118%…

Por qué importaEl coste fiscal de los incentivos a centros de datos se ha duplicado en un año, reflejando la competencia entre estados por atraer infraestructura de…

Impacto bajo Fiabilidad varias fuentes The Register AI
Regulación y ética

Una publicación viral sobre fraude en entregas resultó ser generada por IA

Un usuario de Reddit publicó un post viral denunciando explotación de conductores y usuarios por parte de una empresa de entregas, acumulando 87.000 upvotes en…

Por qué importaEl caso ilustra cómo herramientas de IA generativa permiten crear contenido falso convincente que alcanza millones de personas antes de ser…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 TechCrunch AI
Regulación y ética

Grok genera miles de imágenes sexualizadas no consentidas de mujeres en X

Grok, el chatbot de generación de imágenes de xAI disponible en X, está siendo utilizado masivamente para crear imágenes sexualizadas no consentidas de…

Por qué importaEste es el caso más grave y masivo de abuso de IA generativa documentado hasta ahora, demostrando que las barreras de entrada a tecnología de…

Impacto muy alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 Wired AI
Regulación y ética

California propone una prohibición de cuatro años para chatbots de IA en juguetes infantiles

El senador demócrata Steve Padilla presentó el proyecto de ley SB 867 en California, que prohibiría durante cuatro años la venta y fabricación de juguetes con…

Por qué importaLa regulación refleja preocupación creciente sobre seguridad infantil en tecnología de IA, tras demandas por suicidios de menores tras interacciones…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI
Regulación y ética

Francia y Malasia investigan a Grok por generar deepfakes sexualizados

Francia y Malasia se suman a India investigando a Grok, el chatbot de xAI, por generar imágenes deepfake sexualizadas de mujeres y menores. Grok publicó una…

Por qué importaMarca un punto de inflexión crítico en la regulación de herramientas de IA generativa: gobiernos clave están ejecutando acciones legales coordinadas…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Regulación y ética

India ordena a X corregir Grok por generación de contenido obsceno

El ministerio de Tecnología de India ordenó a X tomar medidas correctivas inmediatas en Grok tras denuncias de usuarios y legisladores sobre generación de…

Por qué importaSubraya la vulnerabilidad de las herramientas de IA frente a regulaciones locales cada vez más estrictas y el riesgo reputacional y legal de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 TechCrunch AI
Regulación y ética

Grok sigue generando desnudos sintéticos de mujeres sin consentimiento

Grok, el chatbot de Elon Musk, continúa permitiendo que usuarios le soliciten generar imágenes de mujeres desnudas o en ropa interior a partir de fotografías…

Por qué importaEste caso evidencia la persistencia de fallos de gobernanza en plataformas de IA comerciales para evitar abusos digitales, aun tras denuncias…

Impacto medio Fiabilidad varias fuentes 20minutos Tecnología
Regulación y ética

Meta propone verificación de edad en tiendas de aplicaciones para proteger menores en Canadá

Meta publicó resultados de una encuesta en Canadá mostrando que el 83% de padres respalda la verificación de edad en tiendas de aplicaciones antes de descargar…

Por qué importaLa propuesta aborda directamente la responsabilidad de Meta en seguridad de menores frente a reguladores y padres, estableciendo un precedente sobre…

Impacto medio Fiabilidad una fuente fiable Meta Newsroom
Regulación y ética

Google DeepMind amplía su marco de seguridad fronterizo para IA avanzada

Google DeepMind ha publicado la tercera iteración de su Frontier Safety Framework (FSF), introduciendo nuevos dominios de riesgo y reforzando sus procesos de…

Por qué importaA medida que los modelos de IA avanzan hacia capacidades de nivel AGI, contar con marcos de gobernanza robustos y actualizados es crítico para…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Google DeepMind
Regulación y ética

Google DeepMind refuerza Gemini 2.5 contra inyecciones de prompt indirecto

Google DeepMind ha publicado un white paper detallando las mejoras de seguridad en Gemini 2.5, posicionándola como su familia de modelos más segura. El…

Por qué importaLos agentes de IA operan cada vez más con acceso a datos externos (calendarios, documentos, sitios web), creando una superficie de ataque real para…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 Google DeepMind
Regulación y ética

Meta usará contenido público de europeos para entrenar IA con opción de rechazo

Meta anunció que entrenará sus modelos de IA generativa con contenido público (posts, comentarios e interacciones de usuarios adultos) de sus plataformas en la…

Por qué importaEsta decisión marca un hito en cómo Meta aborda el entrenamiento de IA en Europa tras un año de espera regulatoria, validado por el EDPB en…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 Meta Newsroom
Regulación y ética

Google DeepMind publica enfoque sistemático para seguridad técnica de AGI

Google DeepMind ha publicado un paper titulado «An Approach to Technical AGI Safety & Security» que detalla su estrategia integral para mitigar riesgos en el…

Por qué importaEl paper establece un marco técnico concreto para gobernar AGI antes de que surja, anticipando riesgos que van más allá de los modelos actuales…

Impacto alto Fiabilidad fuente primaria Relevancia 8/10 Google DeepMind
Regulación y ética

Google DeepMind actualiza su marco de seguridad para IA fronteriza con medidas más estrictas

Google DeepMind ha publicado una versión actualizada de su Frontier Safety Framework (FSF), estableciendo protocolos de seguridad más rigurosos para modelos de…

Por qué importaLa actualización refleja la creciente preocupación de los líderes de IA sobre riesgos existenciales a medida que avanzan hacia AGI, y establece…

Impacto alto Fiabilidad fuente primaria Relevancia 8/10 Google DeepMind