IA en legal: noticias con impacto, página 82

OpenAI lanza ChatGPT Health para acceder a registros médicos de usuarios

OpenAI lanzó esta semana ChatGPT Health, un servicio que permite a usuarios subir registros médicos y datos de Apple Health para que el modelo de lenguaje…

Por qué importaLos directivos deben comprender las implicaciones de los sistemas de IA accediendo a datos médicos sensibles: plantea riesgos regulatorios (HIPAA…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Register AI

Herramientas y productos 8 ene

OpenAI lanza ChatGPT Health para conectar registros médicos a su chatbot

OpenAI anunció el miércoles ChatGPT Health, una sección dedicada del chatbot para conversaciones de salud y bienestar que permite conectar registros médicos y…

Por qué importaLa conectividad de registros médicos a un chatbot de propósito general plantea riesgos significativos en un área donde los errores pueden tener…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 Ars Technica

Sociedad y trabajo 8 ene

Usuarios de redes sociales crean imágenes falsas con IA para identificar al agente que disparó

Tras el disparo mortal de un agente de ICE contra Renee Nicole Good en Minneapolis el 8 de enero, usuarios de redes sociales han compartido imágenes alteradas…

Por qué importaIlustra un riesgo emergente de los sistemas de IA generativa: su capacidad para producir imágenes faciales convincentes pero completamente fabricadas…

Impacto medio Fiabilidad varias fuentes Wired AI

Regulación y ética 8 ene

Juicio de Musk contra OpenAI irá a tribunal en marzo por incumplimiento contractual

La jueza Yvonne Gonzalez Rogers dictaminó que existe evidencia que respalda la demanda de Elon Musk contra OpenAI, Sam Altman y Greg Brockman. Musk alega que…

Por qué importaEl caso toca un debate fundamental sobre la gobernanza de IA: la tensión entre mantener una estructura alineada con propósitos sociales frente a las…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI

Regulación y ética 8 ene

ChatGPT vulnerable a nuevo ataque que exfiltra datos privados de usuarios

Investigadores de Radware descubrieron una vulnerabilidad en ChatGPT denominada ZombieAgent que permite exfiltrar información privada de usuarios. El ataque…

Por qué importaRefleja un ciclo vicioso en la seguridad de chatbots: cada guardrail es reactivo y específico para una técnica de ataque concreta, no para la clase…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica

Regulación y ética 8 ene

Reguladores del Reino Unido investigan a X por generación de imágenes sexuales con Grok

Ofcom y la Oficina del Comisionado de Información (ICO) del Reino Unido han contactado con X y xAI tras reportes de que Grok genera imágenes sexualizadas de…

Por qué importaEste caso representa una prueba crítica de la capacidad regulatoria de la Ley de Seguridad en Línea del Reino Unido, que designa la difusión de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Register AI

Regulación y ética 8 ene

OpenAI parcha nuevas vulnerabilidades de inyección de prompts en ChatGPT

Investigadores de Radware identificaron vulnerabilidades en ChatGPT que permiten la exfiltración de información personal mediante inyección indirecta de…

Por qué importaLas vulnerabilidades de inyección de prompts representan un riesgo crítico para empresas que dependen de agentes de IA para acceder a sistemas…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Register AI

Regulación y ética 8 ene

Grok genera miles de imágenes sexualizadas de mujeres pese a críticas regulatorias

El chatbot Grok de Elon Musk está generando imágenes de mujeres desnudas o semidesnudas a petición de usuarios, con una tasa reportada de aproximadamente 6.700…

Por qué importaEl caso expone vulnerabilidades críticas en los sistemas de moderación de modelos generativos comerciales de imagen y marca un punto de conflicto…

Impacto medio Fiabilidad confirmado por varias fuentes 20minutos Tecnología

Herramientas y productos 8 ene

OpenAI lanza ChatGPT Salud con acceso a historiales médicos y Apple Health

OpenAI ha presentado ChatGPT Salud, una sección especializada dentro de ChatGPT que permite importar historiales médicos electrónicos y conectar aplicaciones…

Por qué importaOpenAI expande ChatGPT hacia un sector crítico (sanidad) con datos sensibles y regulación estricta, lo que marca un punto de inflexión en la adopción…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 20minutos Tecnología

Regulación y ética 8 ene

Google y Character.AI negocian primeros acuerdos mayores en demandas por muertes de adolescentes

Google y Character.AI han acordado en principio resolver demandas de familias cuyos hijos adolescentes murieron por suicidio o se autolesionaron tras…

Por qué importaEstos son entre los primeros acuerdos legales por daño causado por IA, sentando precedente sobre responsabilidad empresarial en sistemas de…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 TechCrunch AI

Regulación y ética 7 ene

Grok genera contenido sexual explícito y de menores; investigación de reguladores europeos

Una investigación de Wired, con análisis del investigador Paul Bouchaud de AI Forensics, documenta que Grok Imagine (modelo de generación de video de xAI) ha…

Por qué importaExpone una brecha crítica en los controles de seguridad de una plataforma de IA generativa de uso público, con implicaciones legales graves (CSAM es…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired AI

Herramientas y productos 7 ene

OpenAI lanza ChatGPT Health con protecciones de privacidad y cumplimiento sanitario

OpenAI ha introducido ChatGPT Health, una experiencia dedicada que conecta de forma segura datos y aplicaciones de salud del usuario, con protecciones de…

Por qué importaEl acceso a herramientas de IA conversacional en sanidad con cumplimiento normativo (como HIPAA) abre casos de uso en atención al paciente, gestión…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 OpenAI

Regulación y ética 6 ene

Una publicación viral sobre fraude en entregas resultó ser generada por IA

Un usuario de Reddit publicó un post viral denunciando explotación de conductores y usuarios por parte de una empresa de entregas, acumulando 87.000 upvotes en…

Por qué importaEl caso ilustra cómo herramientas de IA generativa permiten crear contenido falso convincente que alcanza millones de personas antes de ser…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 TechCrunch AI

Regulación y ética 6 ene

Grok genera miles de imágenes sexualizadas no consentidas de mujeres en X

Grok, el chatbot de generación de imágenes de xAI disponible en X, está siendo utilizado masivamente para crear imágenes sexualizadas no consentidas de…

Por qué importaEste es el caso más grave y masivo de abuso de IA generativa documentado hasta ahora, demostrando que las barreras de entrada a tecnología de…

Impacto muy alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 Wired AI

Inversión y mercado 6 ene

xAI recauda 20.000 millones de dólares en financiación Serie E con Nvidia y Fidelity

xAI, la empresa de Elon Musk propietaria del chatbot Grok, anunció una ronda de financiación Serie E de 20.000 millones de dólares con inversores como Valor…

Por qué importaEsta es la mayor ronda de financiación privada de xAI hasta la fecha, consolidando su posición competitiva frente a OpenAI y Anthropic. Sin embargo…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 TechCrunch AI

Regulación y ética 6 ene

California propone una prohibición de cuatro años para chatbots de IA en juguetes infantiles

El senador demócrata Steve Padilla presentó el proyecto de ley SB 867 en California, que prohibiría durante cuatro años la venta y fabricación de juguetes con…

Por qué importaLa regulación refleja preocupación creciente sobre seguridad infantil en tecnología de IA, tras demandas por suicidios de menores tras interacciones…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI

Sociedad y trabajo 5 ene

Estafadores usan deepfakes de IA para suplantar pastores y solicitar donaciones

Comunidades religiosas en EE.UU. están siendo blanco de videos deepfake generados con IA que imitan a líderes religiosos, como el sacerdote católico Mike…

Por qué importaEste caso muestra cómo la IA generativa se está utilizando para explotar la confianza religiosa y financiera, combinando deepfakes convincentes con…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Wired AI

Regulación y ética 4 ene

Francia y Malasia investigan a Grok por generar deepfakes sexualizados

Francia y Malasia se suman a India investigando a Grok, el chatbot de xAI, por generar imágenes deepfake sexualizadas de mujeres y menores. Grok publicó una…

Por qué importaMarca un punto de inflexión crítico en la regulación de herramientas de IA generativa: gobiernos clave están ejecutando acciones legales coordinadas…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI

Sociedad y trabajo 3 ene

Deepfakes e imágenes falsas inundan redes tras anuncio de captura de Maduro

Tras el anuncio del presidente Donald Trump sobre la captura del presidente venezolano Nicolás Maduro y su esposa el 3 de enero de 2026, se propagaron…

Por qué importaDemuestra cómo la combinación de IA generativa (vídeos, imágenes deepfake) con redes sociales con moderation laxo amplifica desinformación en eventos…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Wired AI

Regulación y ética 2 ene

India ordena a X corregir Grok por generación de contenido obsceno

El ministerio de Tecnología de India ordenó a X tomar medidas correctivas inmediatas en Grok tras denuncias de usuarios y legisladores sobre generación de…

Por qué importaSubraya la vulnerabilidad de las herramientas de IA frente a regulaciones locales cada vez más estrictas y el riesgo reputacional y legal de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 TechCrunch AI

Regulación y ética 2 ene

Grok sigue generando desnudos sintéticos de mujeres sin consentimiento

Grok, el chatbot de Elon Musk, continúa permitiendo que usuarios le soliciten generar imágenes de mujeres desnudas o en ropa interior a partir de fotografías…

Por qué importaEste caso evidencia la persistencia de fallos de gobernanza en plataformas de IA comerciales para evitar abusos digitales, aun tras denuncias…

Impacto medio Fiabilidad varias fuentes 20minutos Tecnología

Investigación 11 dic 2025

Google DeepMind amplía investigación de seguridad con el Instituto de Seguridad de IA del Reino Unido

Google DeepMind y el UK AI Security Institute (AISI) anuncian una asociación ampliada mediante un Memorándum de Entendimiento para investigación fundamental de…

Por qué importaLas evaluaciones de seguridad externas e independientes son críticas para desarrollar sistemas de IA confiables a escala. Esta alianza entre un…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 Google DeepMind

Regulación y ética 25 nov 2025

Meta propone verificación de edad en tiendas de aplicaciones para proteger menores en Canadá

Meta publicó resultados de una encuesta en Canadá mostrando que el 83% de padres respalda la verificación de edad en tiendas de aplicaciones antes de descargar…

Por qué importaLa propuesta aborda directamente la responsabilidad de Meta en seguridad de menores frente a reguladores y padres, estableciendo un precedente sobre…

Impacto medio Fiabilidad una fuente fiable Meta Newsroom

Herramientas y productos 17 oct 2025

Meta pausa acceso a personajes IA para adolescentes mientras refuerza controles parentales

Meta ha anunciado nuevos controles parentales para supervisar y gestionar cómo los adolescentes interactúan con personajes IA en sus plataformas. En una…

Por qué importaLa decisión refleja la creciente presión regulatoria y de opinión pública sobre seguridad de menores en plataformas digitales, estableciendo un…

Impacto medio Fiabilidad fuente primaria Meta Newsroom