Expertos españoles analizan la explicabilidad de la IA y su marco regulatorio en la UE
Hecho Qué ha ocurrido
Investigadores de la UPC y la USC, Karina Gibert y José María Alonso Moral, explican en un reportaje el problema de la 'caja negra' en sistemas de IA subsimbólica y la disciplina de Explainable AI que busca justificar sus decisiones. Se vincula la explicabilidad con la AI Act europea, que clasifica aplicaciones por nivel de riesgo, y con el derecho a explicación del GDPR.
Resumen generado mediante IA a partir de Computerworld España. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
La falta de explicabilidad limita el uso de IA en decisiones estratégicas o de alto riesgo y genera exposición legal para empresas que no puedan justificar el comportamiento de sus modelos ante reguladores o afectados.
- Quién se ve afectado
- Empresas que desarrollan o despliegan sistemas de IA en decisiones de negocio, política pública o atención sanitaria, y responsables de cumplimiento normativo.
- Qué puede cambiar
- Las organizaciones que operen en la UE deberán incorporar explicabilidad desde el diseño de sus modelos, no como añadido posterior, para cumplir con la AI Act y el GDPR.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar el ritmo de implementación de la AI Act y si empresas no europeas se adaptan o renuncian a vender en el mercado europeo por los requisitos de transparencia.
Recomendación Qué debería hacer una empresa
Las empresas que usen IA en decisiones de alto impacto deberían auditar en los próximos 6-12 meses la trazabilidad y explicabilidad de sus modelos para anticiparse a los requisitos de la AI Act.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Computerworld España. La referencia es siempre el artículo original.
Ver fuente original ↗redes neuronalesIA explicableIA generativa Universitat Politècnica de CatalunyaUniversidad de Santiago de Compostela AI Act explicabilidad GDPR IA de caja negra regulación europea
Relacionadas
Explican qué es la 'caja negra' de la IA y los riesgos de su opacidad interpretativa
El artículo explica el concepto de 'caja negra' en inteligencia artificial: la dificultad de los propios desarrolladores para reconstruir completamente el…
Por qué importaA medida que los agentes de IA ganan autonomía y acceso a herramientas y sistemas, la falta de interpretabilidad deja de ser un problema teórico y…
Reguladores financieros exigen explicabilidad y auditoría a los modelos de IA que evalúan crédito
El BIS, el Tesoro de EE.UU. y la OCDE han publicado en 2025-2026 marcos y advertencias sobre la falta de explicabilidad de los modelos de IA usados en…
Por qué importaLas entidades financieras no podrán justificar sus sistemas de IA solo por eficiencia, sino que deberán demostrar trazabilidad, validación y control…
Científicos alertan sobre riesgos de la IA agéntica y piden regulación urgente y responsabilidades claras
Cuatro científicos expertos en IA (Alicia Ortiz de Zárate, Nuria Oliver, Ramón López de Mántaras y Senén Barro) debatieron en un encuentro organizado por…
Por qué importaEl debate plantea que los riesgos de sistemas con mayor autonomía requieren marcos de responsabilidad claros antes de una adopción masiva en sectores…
Crítica sobre cómo la IA generativa reduce la comprensión en equipos de software
Florian Herrengt reflexiona sobre un escenario donde los equipos de desarrollo delegan progresivamente la resolución de problemas en modelos de IA (Claude…
Por qué importaSeñala un riesgo real en la adopción acelerada de IA en desarrollo: la delegación sistemática erosiona la capacidad técnica interna y el conocimiento…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.