Carissa Véliz: La IA predictiva usada en decisiones públicas impulsa el totalitarismo
Hecho Qué ha ocurrido
La filósofa Carissa Véliz, profesora de ética en Oxford, publica el ensayo 'Profecía' donde advierte que los sistemas de IA predictivos se utilizan para tomar decisiones sobre migrantes y ayudas públicas sin transparencia ni justificación. Afirma que Silicon Valley usa predicciones de futuro como herramienta de poder y que los gigantes tecnológicos cultivan la ansiedad social para justificar su influencia.
Resumen generado mediante IA a partir de El Periódico Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Las decisiones automatizadas sobre derechos públicos sin razones explicables erosionan los principios democráticos y pueden establecer un sistema opaco similar a la burocracia arbitraria que Arendt identificó como puerta al totalitarismo. Directivos y reguladores deben entender cómo la narrativa de la IA como 'oráculo' legitima sistemas de control que afectan a millones.
- Quién se ve afectado
- Gobiernos que usan IA en decisiones de frontera y asignación de recursos; ciudadanía vulnerable; empresas de tecnología y plataformas de datos; reguladores y diseñadores de política pública.
- Qué puede cambiar
- Si crece la consciencia sobre el sesgo ideológico de la IA predictiva en decisiones públicas, podrían exigirse mayores restricciones legales, transparencia obligatoria y derecho de apelación con razonamientos explícitos. Los mercados de predicción (Kalshi, Polymarket) podrían enfrentar presión regulatoria similar.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Evolución de la regulación sobre IA en decisiones públicas (similar al AI Act); adopción de requisitos de 'explicabilidad' en sistemas de frontera y asignación de recursos; reacciones de Silicon Valley a críticas sobre narrativas mesiánicas; si gobiernos implementan explícitamente el derecho a apelación razonada en sistemas automatizados.
Recomendación Qué debería hacer una empresa
Las organizaciones públicas deberían revisar dentro de 6-12 meses los sistemas de IA predictivos usados en decisiones sobre ciudadanía y recursos para garantizar: (a) registros públicos de criterios de decisión, (b) mecanismos de apelación con razonamientos, (c) auditoría independiente de sesgos. Sectores regulados (finanzas, seguros) deben anticipar normativas similares.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: El Periódico Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗IA predictiva decisiones públicas democracia IA predictiva privacidad totalitarismo
Forma parte de la historia IA predictiva y vigilancia biométrica: riesgos para derechos y democracia (2 noticias, estado: cerrada).
Relacionadas
Italia impulsa ley que permitiría reconocimiento facial masivo por policía, contradictorio con normativa europea
El Gobierno italiano de Giorgia Meloni ha impulsado un decreto legislativo que autorizaría a la policía a usar inteligencia artificial para reconocimiento…
Por qué importaEsta medida representa un riesgo directo de erosión democrática y privacidad que afecta a toda la UE si se aprueba, pues establece un precedente de…
Suecia bloquea a sus funcionarios el acceso a ChatGPT y Claude en los ordenadores de trabajo
El Gobierno sueco ha bloqueado desde los ordenadores de trabajo el acceso de sus empleados a las versiones de navegador de ChatGPT y Claude, por preocupaciones…
Por qué importaMuestra que los gobiernos empiezan a restringir herramientas de IA de consumo y a exigir proveedores con acuerdos de protección de datos. Las…
España suaviza la regulación de centros de datos y eleva el umbral de potencia a 10 MW
El Gobierno español ha modificado el borrador de decreto que regula los centros de datos tras escuchar a la industria. El umbral de potencia que activa las…
Por qué importaCambia las condiciones de inversión en infraestructura de IA en España, un país que compite con otros destinos europeos por estos proyectos.
Australia alerta de una amenaza cibernética «sin precedentes» impulsada por la IA
La Dirección Australiana de Señales (ASD) advierte en su informe anual de que gobiernos extranjeros y ciberdelincuentes usan la IA para atacar redes e…
Por qué importaSi la IA reduce el tiempo necesario para encontrar y explotar vulnerabilidades, el riesgo para las empresas aumenta y los plazos para parchear…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.