Tecnología
IA explicable
La IA explicable (XAI) agrupa técnicas que permiten entender y justificar por qué un modelo de aprendizaje automático llega a una decisión, en lugar de tratarlo como una 'caja negra'. Es relevante para sectores donde las decisiones automatizadas deben auditarse, como salud, finanzas o cumplimiento normativo.
Sobre esta tecnología, IA para hoy ha analizado 3 noticias, procedentes de 2 medios distintos. No ha habido cobertura nueva en la última semana. La fiabilidad media de esa cobertura es de 2,7 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Ciencia, Legal, IT. Aparece en 3 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Análisis Qué significa para una empresa
- Oportunidades
- Permite usar modelos complejos en ámbitos regulados conservando trazabilidad, como en investigación biomédica para identificar biomarcadores o genes relevantes. Facilita el cumplimiento de normativa europea (AI Act, GDPR) que exige justificar decisiones automatizadas.
- Riesgos
- Las explicaciones generadas pueden ser incompletas o inducir a confianza excesiva si no reflejan fielmente el razonamiento real del modelo. Implementarla añade complejidad técnica y coste, y la exigencia regulatoria varía según el nivel de riesgo de la aplicación.
- Qué debería hacer una empresa
- Las empresas que operen en sectores de alto riesgo según la AI Act deberían evaluar en los próximos meses qué partes de sus sistemas de IA necesitan mecanismos de explicabilidad para cumplir con los requisitos regulatorios.
Análisis generado por IA a partir de las noticias disponibles; actualizado 17 oct.
Relacionadas
redes neuronales ×2IA generativa ×1IA científica ×1KU Leuven ×1Universitat Politècnica de Catalunya ×1EMBL-EBI ×1redes neuronales de grafos ×1
Historias
Noticias
Investigadores presentan SpaCEy, red neuronal de grafos explicable para vincular patrones tisulares con supervivencia en cáncer
Un equipo del Institute for Computational Biomedicine de la Universidad de Heidelberg presentó SpaCEy, una red neuronal de grafos explicable que modela tejidos…
Por qué importaEs un avance en investigación biomédica que muestra cómo la IA explicable puede extraer biomarcadores espaciales relevantes sin depender de…
Expertos españoles analizan la explicabilidad de la IA y su marco regulatorio en la UE
Investigadores de la UPC y la USC, Karina Gibert y José María Alonso Moral, explican en un reportaje el problema de la 'caja negra' en sistemas de IA…
Por qué importaLa falta de explicabilidad limita el uso de IA en decisiones estratégicas o de alto riesgo y genera exposición legal para empresas que no puedan…
Redes neuronales explicables mejoran predicción genética de riesgo de esquizofrenia
Investigadores de KU Leuven y la Universidad de Montpellier aplicaron redes neuronales de extremo a extremo para predecir el riesgo de esquizofrenia usando…
Por qué importaDemuestra que la IA puede capturar interacciones genéticas complejas (epistasis) que los modelos estadísticos tradicionales pasan por alto, mejorando…