seguridad de IA: noticias de IA, página 9

Regulación y ética 16 ene

Demanda contra Grok por generar imágenes sexuales sin consentimiento de mujeres

Ashley St. Clair, madre de un hijo de Elon Musk, demanda a X por permitir que su chatbot de IA Grok genere imágenes que desnudan virtualmente a mujeres sin su…

Por qué importaEl caso expone vulnerabilidades críticas en los controles de contenido sexual de sistemas de IA generativa y abre precedente legal sobre…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Verge AI

Regulación y ética 15 ene

Organizaciones piden a Apple y Google retirar Grok de sus tiendas por generar imágenes explícitas

Una coalición de 28 organizaciones de derechos digitales, liderada por UltraViolet, envió cartas a Tim Cook (Apple) y Sundar Pichai (Google) exigiendo que…

Por qué importaEste caso expone la tensión entre plataformas tecnológicas, desarrolladores de IA y reguladores en torno a la seguridad del contenido generado por…

Impacto alto Fiabilidad confirmado por varias fuentes The Register AI

Inversión y mercado 14 ene

WitnessAI recauda 58 millones para seguridad de agentes de IA en empresas

WitnessAI, startup de seguridad, ha recaudado 58 millones de dólares para desarrollar lo que denomina "la capa de confianza para IA empresarial". La empresa…

Por qué importaLa implementación acelerada de agentes de IA en operaciones corporativas ha expuesto un vacío crítico de seguridad que no existía en la era de…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI

Regulación y ética 12 ene

Bill Gates advierte sobre riesgos de bioterrorismo con IA en su carta anual 2026

Bill Gates ha publicado su carta anual "The Year Ahead, Optimism with footnotes" (enero de 2026) en la que advierte que la inteligencia artificial podría ser…

Por qué importaLa advertencia conecta directamente con la necesidad de gobernanza y regulación preventiva de IA antes de que surjan crisis bioseguridad. Gates…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 Xataka México

Regulación y ética 9 ene

X restringe generación de imágenes de Grok a suscriptores pagos tras crítica global

xAI ha limitado la función de generación de imágenes de Grok en X únicamente a usuarios pagos, tras intensas críticas internacionales por permitir la creación…

Por qué importaEl incidente demuestra la rapidez con que herramientas de IA pueden ser mal utilizadas para daño civil y delictivo, forzando cambios urgentes en…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI

Regulación y ética 2 ene

India ordena a X corregir Grok por generación de contenido obsceno

El ministerio de Tecnología de India ordenó a X tomar medidas correctivas inmediatas en Grok tras denuncias de usuarios y legisladores sobre generación de…

Por qué importaSubraya la vulnerabilidad de las herramientas de IA frente a regulaciones locales cada vez más estrictas y el riesgo reputacional y legal de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 TechCrunch AI

Regulación y ética 11 jul 2023

Google DeepMind propone modelos institucionales para gobernanza global de IA avanzada

Google DeepMind ha publicado un white paper en colaboración con universidades (Oxford, Montréal, Toronto, Columbia, Harvard, Stanford) y OpenAI que investiga…

Por qué importaLa gobernanza internacional de la IA es crítica para directivos y responsables de transformación digital porque afecta directamente a cómo se…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 Google DeepMind

Investigación 28 nov 2017

DeepMind presenta entornos de prueba para medir comportamiento seguro en agentes de IA

Google DeepMind ha publicado un artículo presentando nueve entornos de aprendizaje por refuerzo (gridworlds) diseñados específicamente para medir…

Por qué importaA medida que los sistemas de IA se vuelven más generales y se despliegan en aplicaciones reales, medir y asegurar su comportamiento seguro es…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 Google DeepMind