Expertos españoles analizan la explicabilidad de la IA y su marco regulatorio en la UE
Hecho Qué ha ocurrido
Investigadores de la UPC y la USC, Karina Gibert y José María Alonso Moral, explican en un reportaje el problema de la 'caja negra' en sistemas de IA subsimbólica y la disciplina de Explainable AI que busca justificar sus decisiones. Se vincula la explicabilidad con la AI Act europea, que clasifica aplicaciones por nivel de riesgo, y con el derecho a explicación del GDPR.
Resumen generado mediante IA a partir de Computerworld España. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
La falta de explicabilidad limita el uso de IA en decisiones estratégicas o de alto riesgo y genera exposición legal para empresas que no puedan justificar el comportamiento de sus modelos ante reguladores o afectados.
- Quién se ve afectado
- Empresas que desarrollan o despliegan sistemas de IA en decisiones de negocio, política pública o atención sanitaria, y responsables de cumplimiento normativo.
- Qué puede cambiar
- Las organizaciones que operen en la UE deberán incorporar explicabilidad desde el diseño de sus modelos, no como añadido posterior, para cumplir con la AI Act y el GDPR.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar el ritmo de implementación de la AI Act y si empresas no europeas se adaptan o renuncian a vender en el mercado europeo por los requisitos de transparencia.
Recomendación Qué debería hacer una empresa
Las empresas que usen IA en decisiones de alto impacto deberían auditar en los próximos 6-12 meses la trazabilidad y explicabilidad de sus modelos para anticiparse a los requisitos de la AI Act.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Computerworld España. La referencia es siempre el artículo original.
Ver fuente original ↗redes neuronalesIA explicableIA generativa Universitat Politècnica de CatalunyaUniversidad de Santiago de Compostela AI ActexplicabilidadGDPRIA de caja negraregulación europea
Tu opinión
0 comentarios
Relacionadas
Sam Altman pide en la ONU supervisión internacional para evitar que la IA imponga visiones del mundo
Sam Altman intervino ante el Consejo de Seguridad de la ONU en una sesión sobre riesgos de la IA presidida por el ministro francés Jean-Noël Barrot. Advirtió…
Por qué importaLas declaraciones reflejan la presión creciente sobre los grandes laboratorios de IA para asumir compromisos públicos de seguridad y gobernanza ante…
Trump y Xi se reúnen con la IA, los chips y Taiwán como ejes centrales
Trump y Xi Jinping se reunieron en la Casa Blanca, su segundo encuentro en 2026, tras la escalada arancelaria de 2025 que llevó las tarifas a 145% y 125%. La…
Por qué importaCualquier relajación en los controles de exportación de semiconductores afectaría directamente a Nvidia, AMD, TSMC y ASML, y a la disponibilidad…
Altman y Amodei alertan en el Consejo de Seguridad de la ONU sobre riesgos de la IA
Los máximos responsables de OpenAI y Anthropic intervinieron ante el Consejo de Seguridad de la ONU pidiendo mecanismos internacionales para controlar la IA…
Por qué importaQue los propios líderes del sector reclamen regulación internacional, sin dejar de desarrollar la tecnología, refuerza la presión hacia marcos…
Expertos alertan sobre riesgos de seguridad de los agentes de IA autónomos en empresas
Varios analistas y proveedores (McKinsey, Anthropic, Foundry, EPAM NEORIS, Sophos) advierten sobre los riesgos de los agentes de IA autónomos, que pueden…
Por qué importaLos agentes de IA autónomos amplían drásticamente la superficie de riesgo empresarial porque pueden ejecutar acciones reales (transacciones, cambios…